Gouvernance mondiale de l’IA : l’heure est aux preuves de confiance

Les 6 et 7 juillet 2026, Genève a accueilli la première session du Dialogue mondial sur la gouvernance de l’intelligence artificielle. Environ 4 000 participants et plus de 1 500 contributions écrites ont nourri ce processus, qui réunit États, entreprises, chercheurs, société civile et communauté technique. Pour la première fois, chacun des 193 États membres des Nations unies a disposé d’une place dans un cadre universel consacré à la gouvernance de l’IA. Une formule d’António Guterres, secrétaire général des Nations Unies, reprise comme signature du Dialogue, en a résumé l’ambition : « La question n’est plus de savoir si l’IA transformera notre monde : elle le fait déjà. La question est de savoir si nous gouvernerons cette transformation ensemble ou si nous la laisserons nous gouverner. » Ce premier rendez-vous n’avait pas vocation à négocier un traité. Il a surtout permis d'établir un diagnostic partagé, de mieux relier des initiatives encore fragmentées et de préparer la prochaine session, prévue à New York en mai 2027.

Un diagnostic scientifique commun, mais provisoire

Le Dialogue s’est appuyé sur le rapport préliminaire du Panel scientifique international indépendant sur l’IA. Composé de 40 experts issus de différentes régions et disciplines, ce panel a un mandat scientifique et non politique. Son rapport ne constitue pas une position officielle de l’ONU : il documente les connaissances disponibles, les consensus, les désaccords et les lacunes, dans un domaine qui impose une actualisation continue.

Son message central est clair : les capacités progressent plus vite que les méthodes et les institutions chargées de les mesurer et de les gouverner. Les derniers tests de référence confirment l’accélération : certains scores ont gagné 37 points en seize mois et les meilleurs modèles approchent désormais 95 % sur des épreuves de raisonnement scientifique avancé.

Ces performances ne prouvent pourtant ni la fiabilité générale des systèmes ni leur pertinence dans un contexte réel. Les benchmarks saturent, peuvent être contaminés par les données d’entraînement et deviennent plus difficiles à interpréter lorsque les modèles reconnaissent qu’ils sont évalués ou adaptent leur comportement. Le rapport relève aussi des comportements de tromperie observés en laboratoire.

Une asymétrie subsiste enfin entre les développeurs et le reste de la société. Les entreprises disposent d’un accès privilégié aux architectures, aux données de test et aux comportements internes des modèles, tandis que les méthodes de sécurité restent encore largement définies par les acteurs évalués. La réponse passe par des tests dynamiques, des évaluations tierces indépendantes et une surveillance après déploiement.

L’IA agentique déplace le centre de gravité

La rupture majeure vient du passage de systèmes qui produisent à des systèmes qui agissent. Un agent peut planifier, utiliser des outils, naviguer sur Internet, exécuter du code, accéder à des applications et coordonner d’autres agents avec une supervision humaine réduite. António Guterres l’a formulé sans détour à Genève : « Nos institutions ont été conçues pour gouverner des machines qui exécutent des ordres. Elles ne sont pas prêtes pour des machines qui décident. »

Selon le panel, l’horizon des tâches logicielles que les meilleurs agents peuvent accomplir de façon autonome double environ tous les quatre à sept mois. Cette évolution oblige à changer l’unité d’évaluation. Il ne suffit plus d’examiner le modèle seul : il faut évaluer le système déployé, c’est-à-dire le modèle, ses outils, ses permissions, son environnement opérationnel et ses utilisateurs.

Un même modèle peut présenter un risque limité lorsqu’il résume un document, puis devenir critique lorsqu’il accède à des transactions financières, à des dossiers médicaux ou à une infrastructure industrielle. La gouvernance doit donc préciser ce que l’agent est autorisé à faire, les données auxquelles il peut accéder, la traçabilité de ses actions, les conditions d’arrêt, la réversibilité et la chaîne de responsabilité.

Le principe du « human in the loop » ne suffit pas. Une validation humaine à chaque étape peut générer lenteur, fatigue décisionnelle et approbations formelles. L’enjeu est une supervision humaine significative et mesurable, concentrée sur les décisions à forte incertitude, à forte dépendance contextuelle ou comportant un jugement éthique. Les autres contrôles doivent être intégrés à l’architecture : restrictions d’accès, politiques d’autorisation, journaux d’exécution, seuils d’escalade et surveillance continue.

La fracture de l’IA devient une fracture de souveraineté

Le rapport met également en évidence une concentration exceptionnelle des capacités. En 2025, les États-Unis regroupaient environ 75 % de la puissance de calcul des 500 plus grands clusters d’IA connus, contre 15 % pour la Chine et 10 % pour le reste du monde. La même année, 91 % des modèles d’IA notables provenaient du secteur privé. Cette concentration concerne aussi les semi-conducteurs, le cloud, les données, les talents et les capacités d’évaluation. Selon les données citées par le Panel, 118 pays, principalement dans le Sud global, ne seraient pas engagés dans les principales discussions sur la gouvernance de l’IA, et moins d’un tiers des pays en développement disposeraient d’une stratégie nationale.

La fracture ne se résume donc pas à l’accès à un modèle ou à une API. Elle porte sur la capacité à développer, adapter, tester, auditer et gouverner les systèmes. Un pays peut utiliser l’IA tout en restant dépendant de technologies qu’il ne peut ni inspecter ni ajuster à ses langues, à ses institutions ou à ses risques locaux. L’accès sans capacité peut accroître la dépendance plutôt que la réduire.

Interopérabilité : ni uniformité, ni plus petit dénominateur commun

Le Dialogue a placé l’interopérabilité au cœur du débat. Il ne s’agit pas d’imposer un modèle réglementaire mondial unique, ni d’abaisser les exigences. Il s’agit de permettre à des cadres différents de se comprendre et de fonctionner ensemble autour d’un socle vérifiable. Le panel recense plus de 40 catégories d’instruments de gouvernance, mais constate qu’ils restent fragmentés, souvent concentrés au niveau des entreprises et rarement évalués sur leur efficacité réelle. Des bases communes deviennent donc nécessaires : terminologie, classifications des risques, méthodes de test, documentation auditable, signalement des incidents et mécanismes d’assurance reconnus.

Cette assurance devra être continue. Une évaluation initiale ne suffit plus lorsque les modèles évoluent, reçoivent de nouveaux outils ou changent de contexte d’usage. La même logique s’applique à l’empreinte environnementale : les mesures comparables de l’énergie, de l’eau, des matériaux et des déchets électroniques restent insuffisantes sur l’ensemble du cycle de vie.

Ce que cela change pour les entreprises

Pour les dirigeants, la conséquence est immédiate. La gouvernance de l’IA ne peut plus rester un document de principes porté uniquement par les fonctions juridique ou conformité. Elle doit devenir un dispositif opérationnel couvrant l’inventaire des systèmes, les dépendances techniques, les droits d’action des agents, les preuves de test, les incidents, les responsabilités et les conditions de réévaluation. La certification initiale peut fournir un point de départ, mais la confiance devra être maintenue par une assurance continue. À mesure que les systèmes gagnent en autonomie, la question décisive ne sera plus seulement : « ce modèle est-il conforme ? », mais : « pouvons-nous démontrer, à tout moment, ce que ce système fait, pourquoi il peut le faire et qui en répond ? »

Le prochain Dialogue mondial sera jugé moins sur la qualité de ses déclarations que sur les mécanismes construits d’ici 2027 : preuves indépendantes, normes interopérables, capacités locales d’évaluation et responsabilité adaptée aux systèmes agentiques. Au final, le constat est clair : si le monde ne manque plus de principes pour encadrer l’IA, il lui manque encore clairement l’architecture de confiance nécessaire pour passer des principes à la preuve.

La fracture de l’IA devient une fracture de souveraineté

Le rapport met également en évidence une concentration exceptionnelle des capacités. En 2025, les États-Unis regroupaient environ 75 % de la puissance de calcul des 500 plus grands clusters d’IA connus, contre 15 % pour la Chine et 10 % pour le reste du monde. La même année, 91 % des modèles d’IA notables provenaient du secteur privé. Cette concentration concerne aussi les semi-conducteurs, le cloud, les données, les talents et les capacités d’évaluation. Selon les données citées par le Panel, 118 pays, principalement dans le Sud global, ne seraient pas engagés dans les principales discussions sur la gouvernance de l’IA, et moins d’un tiers des pays en développement disposeraient d’une stratégie nationale.

La fracture ne se résume donc pas à l’accès à un modèle ou à une API. Elle porte sur la capacité à développer, adapter, tester, auditer et gouverner les systèmes. Un pays peut utiliser l’IA tout en restant dépendant de technologies qu’il ne peut ni inspecter ni ajuster à ses langues, à ses institutions ou à ses risques locaux. L’accès sans capacité peut accroître la dépendance plutôt que la réduire.

Interopérabilité : ni uniformité, ni plus petit dénominateur commun

Le Dialogue a placé l’interopérabilité au cœur du débat. Il ne s’agit pas d’imposer un modèle réglementaire mondial unique, ni d’abaisser les exigences. Il s’agit de permettre à des cadres différents de se comprendre et de fonctionner ensemble autour d’un socle vérifiable. Le panel recense plus de 40 catégories d’instruments de gouvernance, mais constate qu’ils restent fragmentés, souvent concentrés au niveau des entreprises et rarement évalués sur leur efficacité réelle. Des bases communes deviennent donc nécessaires : terminologie, classifications des risques, méthodes de test, documentation auditable, signalement des incidents et mécanismes d’assurance reconnus.

Cette assurance devra être continue. Une évaluation initiale ne suffit plus lorsque les modèles évoluent, reçoivent de nouveaux outils ou changent de contexte d’usage. La même logique s’applique à l’empreinte environnementale : les mesures comparables de l’énergie, de l’eau, des matériaux et des déchets électroniques restent insuffisantes sur l’ensemble du cycle de vie.

Ce que cela change pour les entreprises

Pour les dirigeants, la conséquence est immédiate. La gouvernance de l’IA ne peut plus rester un document de principes porté uniquement par les fonctions juridique ou conformité. Elle doit devenir un dispositif opérationnel couvrant l’inventaire des systèmes, les dépendances techniques, les droits d’action des agents, les preuves de test, les incidents, les responsabilités et les conditions de réévaluation. La certification initiale peut fournir un point de départ, mais la confiance devra être maintenue par une assurance continue. À mesure que les systèmes gagnent en autonomie, la question décisive ne sera plus seulement : « ce modèle est-il conforme ? », mais : « pouvons-nous démontrer, à tout moment, ce que ce système fait, pourquoi il peut le faire et qui en répond ? »

Le prochain Dialogue mondial sera jugé moins sur la qualité de ses déclarations que sur les mécanismes construits d’ici 2027 : preuves indépendantes, normes interopérables, capacités locales d’évaluation et responsabilité adaptée aux systèmes agentiques. Au final, le constat est clair : si le monde ne manque plus de principes pour encadrer l’IA, il lui manque encore clairement l’architecture de confiance nécessaire pour passer des principes à la preuve.