Vers une gouvernance éthique, souveraine, et éco-responsable de l’IA

Les grandes avancées technologiques ont toujours suscité à la fois espoir et inquiétude, leurs dérives reflétant souvent celles des sociétés qui les produisent. Avec l’essor de l’Intelligence Artificielle (IA), une rupture s’opère : pour la première fois, l’avenir de nos organisations et de nos sociétés se joue dans des systèmes algorithmiques capables d’agir à grande échelle. Or, la rapidité de ces innovations dépasse notre capacité collective d’anticipation et de régulation. Dans ce contexte, les entreprises qui innovent ou se transforment numériquement doivent intégrer une réflexion éthique de la conception, mise en place, utilisation, et suivi de leurs projets digitaux.

Pourtant, cette dimension reste encore insuffisamment structurée dans la gouvernance des organisations. Il devient donc essentiel de mettre en place une gouvernance interne de l’IA à la fois éthique, souveraine et éco-responsable, portée notamment par un Digital Ethics Officer (DEO), afin d’orienter ces technologies au service de l’intérêt humain. La société ne dispose pas encore de règles universelles réellement établies pour intégrer les valeurs humaines au cœur des systèmes d’IA. Si des initiatives émergent, comme le règlement européen AI Act entré en vigueur le 1er août 2024, l’essor rapide de l’IA rend nécessaire la construction d’un socle éthique et souverain commun afin de garantir sens, sécurité, transparence, éco-responsabilité et donc confiance dans les usages de l’IA. Dans cette perspective, les fournisseurs et les déployeurs d’IA doivent intégrer dès le début les risques, les limites et les impacts sociétaux de leurs systèmes.

"Ethique by design"

Deux approches complémentaires se distinguent : l’IA digne de confiance, qui encadre les décisions automatisées pour en assurer la conformité aux valeurs collectives, et l’IA éthique, qui cherche à intégrer directement des principes éthiques dans la conception même des algorithmes. Cette dernière s’inscrit dans une logique d’Ethique by Design, prolongée par une Ethique by Evolution , intégrant l’éthique tout au long du cycle de vie des systèmes. L’enjeu consiste ainsi à développer des algorithmes capables d’évoluer dans des contextes comportant des implications éthiques, en articulant trois dimensions : l’orientation stratégique du système d’IA, leur signification au service de la société, et l’explication des finalités poursuivies. Cela suppose enfin une approche inclusive associant l’ensemble des parties prenantes dès la conception et tout au long de l’évolution du système d’IA. Dès lors, le DEO apparait comme étant le nouveau rôle clé destiné à structurer la gouvernance éthique du numérique au sein de l’entreprise. Il a pour mission d’orchestrer cette démarche en coordonnant les différents acteurs impliqués dans les projets numériques (DSI, juridique, RSE, marketing, production, etc.). Son rôle consiste à identifier les risques éthiques, à favoriser le dialogue interdisciplinaire et à mettre en place des règles et des outils permettant de garantir des pratiques responsables.

Concrètement, le DEO participe à la stratégie numérique de l’entreprise, sensibilise les équipes aux enjeux éthiques, élabore des chartes, des feuilles de route, des guides de bonnes pratiques, des outils d’évaluation, etc. Il veille à limiter les biais ou les discriminations liés aux systèmes algorithmiques. Il contribue également à protéger les droits fondamentaux des utilisateurs et à instaurer une culture de transparence et de responsabilité autour du numérique. Pour être efficace, le DEO nécessite des compétences pluridisciplinaires mêlant éthique, droit, technologie et management.

Les facteurs clés d'une gouvernance IA réussie

L’accompagnement des entreprises dans l’intégration de leurs IA au sein de leur organisation permet d’identifier des facteurs clés pour une gouvernance réussie. Ceux-ci prennent des formes complémentaires, dont voici un tour d'horizon rapide.

D'abord, une implication forte de la direction générale. Les principales actions sont d’une part de piloter la transformation, arbitrer les priorités, incarner les valeurs éthiques, et d’autre part, de valider la feuille de route et soutenir le Comité Éthique IA.

Ensuite, une transversalité inter-directionnelle. Pour cela, l’entreprise doit, d’une part, croiser les approches technique, métier, juridique, éthique et financière, et d’autre part, mobiliser les filiales, les DSI, la cybersécurité, les RH et les métiers.

Il est également nécessaire d'avoir un cadre éthique de référence autour du numérique, en mettant en place : charte éthique, comité d’éthique, référents Ethique IA, DEO, guide de bonnes pratiques, etc.

Enfin, un axe clé est d'avoir une plateforme d’auto-évaluation et de gouvernance éthique de l’IA. Cette solution permet de structurer et piloter leurs usages de l’IA de manière éthique, souveraine et éco-responsable à 360° et de bout en bout. Elle repose sur des fonctions diverses comme cartographier des usages d’IA afin d’identifier les technologies utilisées, les risques associés et leur niveau de criticité au regard des exigences du règlement européen AI Act. Elle doit évaluer l’éthique tout au long du cycle de vie de l’IA (de la conception, la mise en place, l’usage, et le suivi), en encadrant les données, en documentant les modèles et en mettant en place des mécanismes de contrôle et de surveillance. De même, elle doit évaluer le contexte de conception, de développement et d’exploitation de l’IA, en mesurant : le contexte et finalités, le process de l’IA, le contexte de collecte des données, le suivi, l’environnement durable, et la souveraineté. Un autre de ses aspects est l'évaluation de l’engagement éthique des aspects techniques du système d’IA, en analysant : la sensibilité, la performance, la robustesse, l’interprétabilité, les biais (de mesure, d’agrégation, historique…), le risque de discrimination, la sécurité du code et des données, etc. La plateforme doit permettre de piloter et rendre transparent, grâce à des tableaux de bord, des indicateurs de maturité éthique et un suivi continu des projets, afin de renforcer la confiance numérique et démontrer la responsabilité des organisations dans leurs usages de l’IA.

Une étape essentielle pour développer une véritable culture du numérique

D'autres facteurs clés entrent en considération. Notamment une communication, acculturation, et participation dont l’objectif serait de faire comprendre les opportunités et les risques, associer les métiers à la création des référentiels et principes éthiques, et valoriser les initiatives locales. De plus, une approche pragmatique et adaptée à l’entreprise est à privilégier. Il faut que la démarche soit peu consommatrice d’outils, basée sur l’existant, focalisée sur la simplicité, l’efficacité, l’applicabilité, la souveraineté, progressive et continue, compatible avec des organisations multi-filiales, et conforme à l’IA Act sans sur-couche administrative inutile. En définitive, si l’IA ouvre des perspectives considérables, elle soulève également des risques qui doivent être encadrés afin de garantir le respect du droit, des valeurs humaines et de l’intérêt général. L’intégration de critères éthiques, souverains, et éco-responsables tout le long du cycle de vie de l’IA, malgré la complexité qu’elle implique, constitue une étape essentielle pour développer une véritable culture du numérique, et renforcer la sécurité, la responsabilité, la confiance et donc le sens dans la conception et/ou l’usage de l’IA au sein des organisations et des territoires.