L’intelligence artificielle générale sur la mauvaise voie ?

La recherche scientifique sur l’intelligence artificielle est victime de sa surmédiatisation récente. Cela impacte d’ailleurs l’atteinte de l’un de ses objectifs principaux, l’intelligence artificielle générale (IAG), ralentit par les défis autour de la fiabilité des IA.

Vers quoi s’oriente la recherche scientifique en intelligence artificielle ? Dès 1956, les fondateurs de ce domaine de recherche ont érigé l’intelligence artificielle générale (IAG ou AGI en anglais) comme Saint-Graal. Ce rêve d’une IA capable d’apprendre et d’effectuer n’importe quelle tâche comme un humain reste aujourd’hui encore le sujet majeur d’universitaires comme de startupers. Pourtant, selon le dernier rapport de l’Association pour l’avancement de l’IA (AAAI), l’idéal d’une machine au même niveau de compréhension que l’humain est encore loin. Le rapport affirme même que la recherche internationale n’est pas sur la bonne voie. Ainsi, 76% des 475 chercheurs interrogés par l’AAAI estiment que les approches actuelles ne suffiront pas pour obtenir une IA capable d’interpréter les informations et d’en tirer des enseignements comme un être humain, afin d’agir ensuite comme lui.

La fiabilité devant l’IAG

Devant le développement de l’IAG se trouve un autre enjeu, celui de concevoir un système avec un taux de risque-opportunité acceptable. 77% des chercheurs en font aujourd’hui leur objectif principal. “Les chercheurs en IA accordent la priorité à la sécurité, à la gouvernance éthique, au partage des bénéfices et à l’innovation progressive, et prônent un développement collaboratif et responsable plutôt qu’une course vers l’IAG », explique le rapport. Et puisque pour 75% des chercheurs, la désinformation générée par l’IA est le problème le plus pressant, l’amélioration de leur fiabilité devient l’enjeu numéro un. “L’amélioration des faits et de la fiabilité des systèmes d’IA est aujourd’hui le plus grand sujet de recherche sur l’IA”, soutient le rapport.

Les effets du battage médiatique 

Si ce sujet concerne 75% des recherches en cours, c’est en partie causé par sa surmédiatisation. 74 % des personnes interrogées soutiennent que les orientations de la recherche en matière d’IA sont dictées par le battage médiatique. Les appels fréquents pour une IA fiable et éthique nuisent donc à l’atteinte de l’IAG en concentrant la recherche sur la fiabilité. Pourtant, malgré les progrès réalisés, la majorité des chercheurs sont pessimistes quant à la possibilité de résoudre ce problème dans un avenir proche. Le chercheur Henry Kautz suggère tout de même une nouvelle solution : “ Je pense que la prochaine étape dans l’amélioration de la fiabilité sera le remplacement des agents d’IA individuels par des équipes d’agents coopérants qui vérifient continuellement les faits et tentent de maintenir l’honnêteté des autres.”