Le comité nommé par l’ONU plaide pour la création d’outils de coopération internationale, permettant une meilleure inclusion des pays en développement et une meilleure appréhension des risques émergents.

Voilà près d’un an que le secrétaire général de l’ONU (Organisation des Nations Unies), António Guterres, a mis en place un comité composé d’une quarantaine d’experts dans les domaines des technologies, du droit et de la protection des données personnelles. Leurs travaux, publiés il y a quelques jours durant le « Sommet pour l’avenir » à New York, constatent sans surprise « le déficit de gouvernance mondiale en matière d’IA », ainsi que la quasi-exclusion des pays en développement des discussions sur un sujet existentiel.

Sur les 193 États membres de l’ONU, 118 sont totalement absents des sept principales initiatives concernant la gouvernance de l’IA. Pourtant, le comité, qui comprend des acteurs publics ainsi que des membres de géants comme Alphabet, Microsoft ou OpenAI, insiste sur la nature « transfrontalière » de ces technologies, ce qui « nécessite une approche mondiale ». Dans ce contexte, António Guterres affirme : « L’IA doit servir l’humanité de façon équitable et sûre. Sans contrôle, les dangers posés par l’intelligence artificielle pourraient avoir des implications graves pour la démocratie, la paix et la stabilité. »

La création d’un GIEC de l’IA

Le comité mis en place par l’ONU exhorte les États membres à mettre en place des outils favorisant une meilleure coopération mondiale, afin d’encourager le progrès et d’éviter certains dérapages. « Personne ne peut aujourd’hui prédire l’évolution de ces technologies », estiment les experts, qui regrettent que les décideurs ne rendent pas de comptes lors du développement et de l’utilisation de systèmes « qu’ils ne comprennent pas ».

Dans ces circonstances, « le développement, le déploiement et l’utilisation d’une telle technologie ne peuvent être laissés seulement aux caprices des marchés », insistent-ils, soulignant le rôle « crucial » des gouvernements et des organisations régionales. Ils appellent également à la création d’un groupe international d’experts scientifiques sur l’IA, sur le modèle du GIEC pour le climat, avec pour mission d’éclairer la communauté internationale sur les risques émergents et les technologies pouvant contribuer à un avenir plus durable.

Une liste de risques non exhaustive, mais déjà riche

Même s’ils notent que dresser une liste exhaustive des risques est une « cause perdue d’avance » dans un secteur au développement ultra rapide, ils identifient toutefois certains dangers : la désinformation qui menace la démocratie, les deepfakes à caractère personnel (notamment sexuels), les violations des droits humains, les armes autonomes ou encore l’utilisation de l’IA par des groupes criminels ou terroristes. « Étant donné la rapidité, l’autonomie et l’opacité des systèmes d’IA, attendre l’émergence d’une menace pourrait signifier qu’il est déjà trop tard pour y répondre », admettent-ils, comptant sur une évaluation scientifique constante et des échanges politiques pour que « le monde ne soit pas pris par surprise ».