ALTEN et CentraleSupélec cadrent l’IA multi-agents critique 

Comprendre une décision d’IA ne suffit plus. Il faut comprendre un système entier. C’est sur ce basculement que repose la chaire “Systèmes multi-agents de confiance pour les industries critiques”, lancée par ALTEN et CentraleSupélec le 31 mars à Global Industrie. Le partenariat, piloté côté académique par la professeure Wassila Ouerdane (laboratoire MICS), cible des environnements industriels sous contrainte - énergie, transport, défense, production - où l’IA doit être explicable pour être utilisable. “Aujourd’hui, quand on parle d’IA de confiance ou d’explicabilité, on parle souvent de la décision d’un agent IA. Là, on est dans des systèmes”, a expliqué Yann Rougemont, directeur de l’innovation d’ALTEN. Le point de rupture se situe là. “C’est l’ensemble qui doit également être de confiance”, a-t-il ajouté. Cette orientation s’inscrit dans une trajectoire plus large. Le groupe travaille sur ces sujets depuis plusieurs années et compte aujourd’hui plus de 70 % de ses projets d’innovation intégrant des briques d’IA, au-delà de la seule IA générative. 

Des systèmes déjà déployés, mais mal compris 

Ce changement ne relève pas d’un effet d’annonce. Les systèmes multi-agents sont déjà à l’œuvre, mais restent difficiles à maîtriser. “Il y a des vrais verrous scientifiques”, a souligné Yann Rougemont. Le problème ne tient pas à un agent isolé, mais à leur enchaînement. “L’agentique, c’est avant tout un enchaînement de tâches qui sont faits par un ou plusieurs agents”, a-t-il précisé. Dans les faits, les agents interagissent avec plusieurs systèmes, prennent des décisions en parallèle et doivent rester cohérents. Sans cadre, les incohérences apparaissent. À cela s’ajoute un angle mort : la détection des erreurs. “Ils doivent être capables de détecter en temps réel des fausses alertes, des hallucinations pour éviter la propagation des erreurs”, a-t-il expliqué. La question de la responsabilité reste suspendue. Une décision collective dilue l’origine de l’erreur. “La première manière de gérer la responsabilité, c’est de travailler l’explicabilité”, a-t-il rappelé. En toile de fond, une pression du marché. “Aujourd’hui, il faut mettre de l’agentique partout”, a-t-il observé, en pointant une tendance où l’usage précède souvent la compréhension. 

Un simulateur pour tester les limites 

ALTEN s’appuie déjà sur des dispositifs concrets pour tester ces interactions. Le groupe développe notamment un simulateur industriel, une mini-usine intégrant robots, flux logistiques, agents autonomes et jumeaux numériques. L’ensemble permet de reproduire des conditions proches du réel, avec des contraintes physiques intégrées. “On arrive à avoir une usine qui fonctionne de manière autonome”, a indiqué Yann Rougemont. Mais l’intérêt ne réside pas dans l’autonomie elle-même. Le simulateur sert à observer les effets des interactions entre agents. “Plus on aura de performance dans la communication des agents, plus on aura une performance de réalisation”, a-t-il précisé. Le même type de logique s’applique à d’autres terrains, comme les réseaux électriques intelligents. Plusieurs agents doivent y combiner règles physiques, contraintes réglementaires et optimisation en temps réel. “On sait quel serait l’impact d’une erreur, c’est un blackout potentiellement”, a-t-il rappelé. Le problème devient systémique : une décision incohérente ne reste pas localisée. 

Une chaire pour structurer ce qui manque 

La chaire s’organise autour de trois axes directement issus de ces limites : explicabilité à l’échelle des systèmes multi-agents, IA hybrides combinant apprentissage et contraintes métier, et robustesse face aux erreurs et à leur propagation. CentraleSupélec structure les travaux scientifiques, avec un objectif clair : relier décisions locales et comportement global. “Les systèmes multi-agents autonomes posent en effet des questions scientifiques nouvelles que les approches classiques d'explicabilité et de vérification ne permettent pas de résoudre”, a indiqué Paul-Henry Cournède, directeur de la recherche de CentraleSupélec. Côté ALTEN, l’approche reste orientée terrain. “L’idée, c’est d’articuler au mieux les résultats et leur exploitation”, a expliqué Yann Rougemont. 

Une logique d’écosystème restreint 

Le dispositif doit intégrer progressivement des industriels, mais selon un modèle resserré. “L’idée c’est pas de l’ouvrir à de multiples industriels d’un même secteur”, a précisé Yann Rougemont. L’objectif consiste à travailler avec un acteur par filière, sur des cas d’usage précis et des contraintes spécifiques, notamment en matière de réglementation ou de propriété intellectuelle. ALTEN ne cherche pas à transformer ces travaux en produits. “On reste une entreprise de services on ne veut pas créer de produits”, a-t-il rappelé. La chaire vise plutôt à produire des démonstrateurs et des méthodes réutilisables, capables de servir de référence dans des projets clients. L’enjeu se déplace. Il ne s’agit plus de montrer que l’IA fonctionne, mais de prouver qu’elle reste maîtrisable lorsqu’elle agit à plusieurs.