L'IA menace-t-elle l'humanité ? Les chercheurs redoutent surtout leurs usages

L'intelligence artificielle pourrait-elle devenir une menace majeure pour l'humanité d'ici cinq ans ? Près de deux tiers des chercheurs interrogés par Cybernews jugent ce scénario plausible. Dans une enquête menée du 1er au 9 octobre auprès de 103 spécialistes, 30,4 % estiment même ce risque très crédible si l'IA devient capable d'améliorer elle-même ses performances. Cette inquiétude ne signifie pourtant pas que les scientifiques anticipent tous une machine échappant au contrôle humain. Pour 37,9 % des répondants, le principal danger des dix prochaines années réside dans les usages malveillants de la technologie, notamment les cyberattaques, la désinformation ou le développement d'armes biologiques. Une autre partie des chercheurs redoute davantage ses conséquences économiques et politiques. L'étude révèle ainsi un décalage entre les scénarios d'une IA autonome incontrôlable et les risques liés à son utilisation par des acteurs humains.

La menace dépasse les machines autonomes

La question du risque existentiel divise néanmoins les spécialistes. Plus de quatre chercheurs sur dix attribuent une probabilité d'au moins 10 % à une catastrophe provoquée par l'IA au cours du siècle. À l'inverse, près de la moitié des répondants anticipent un impact globalement positif de cette technologie sur l'humanité. Les préoccupations portent aussi sur la concentration du pouvoir entre quelques entreprises, les bouleversements économiques et l'affaiblissement des institutions. Ces effets structurels constituent le principal risque pour 28,2 % des personnes interrogées, devant les problèmes d'alignement, lorsque les systèmes poursuivent des objectifs contraires aux intentions humaines. Pour John Licato, professeur associé à l'université de Floride du Sud, interrogé par Cybernews en complément de l'enquête, la répartition inégale des bénéfices de l'IA constitue une menace majeure. Les gains de productivité pourraient rester réservés aux organisations capables de financer les modèles les plus avancés.

Une superintelligence encore hors de portée ?

Ces craintes contrastent avec les incertitudes scientifiques entourant les prochaines étapes de l'IA. Plus de la moitié des chercheurs considèrent qu'une rupture technologique sera nécessaire pour atteindre une intelligence artificielle générale (AGI), capable d'accomplir un large éventail de tâches intellectuelles au niveau humain. Cette proportion grimpe à 69,6 % pour la superintelligence artificielle (ASI), censée dépasser les meilleurs experts humains dans de nombreux domaines. Les progrès actuels ne suffiraient donc pas, aux yeux d'une majorité des répondants, à franchir ces deux seuils. Certains estiment pourtant que l'AGI existe déjà, signe d'un désaccord persistant sur sa définition et son degré de maturité. Quant à l'amélioration récursive, qui permettrait à une IA d'accélérer son propre développement avec une intervention humaine minimale, un quart des participants considère qu'elle est déjà possible.

Plus d'un chercheur sur deux veut lever le pied

Face à ces incertitudes, le rythme de développement des modèles les plus puissants fait débat. Près de 40 % des chercheurs interrogés souhaitent ralentir leur progression, tandis que 15,7 % préconisent une suspension temporaire. Un quart préfère maintenir la cadence actuelle. Ces résultats interviennent dans un climat de tensions croissantes autour de la sécurité de l'IA, ravivées par la démission publique de Jacob Coxon, chercheur chez Anthropic, qui a évoqué les craintes d'une disparition de l'humanité avant la fin de la décennie. L'enquête de Cybernews montre toutefois que les risques immédiats ne se résument pas à cette perspective extrême. Entre détournements criminels, concentration des capacités et incertitudes sur les futurs modèles, les chercheurs ne s'accordent ni sur la nature de la menace ni sur la vitesse à laquelle elle pourrait se matérialiser.