Règles d’escalade, « Human in the Loop », traçabilité... Quels défis pour les entreprises des utilities face à l'IA ?

En préparation de la rencontre organisée par Alliancy, le 3 novembre, deux experts de Klee Group ont recontextualisé l'enjeu pour les organisations du secteur des utilities. Thomas Dallemagne, managing partner AI & Data, et Damien Tabusse, responsable industrialisation IA, reviennent sur les défis spécifiques auxquelles sont confrontées ces entreprises face à l'essor de l'IA.

Pourquoi est-il clé selon vous de mener en 2026 une étude auprès des acteurs des utilities sur la question de la maîtrise des dépendances critiques à l’ère de l’industrialisation de l’IA ?

Damien Tabusse : La situation a beaucoup évolué en quelques années. Avant 2022, l’IA générative n’était pas encore dans le paysage. La pression économique liée à la consommation énergétique n’était pas non plus la même. Nous avons donc aujourd’hui, d’un côté, une pression à la fois financière et écologique et, de l’autre, une solution technologique qui peut contribuer à y répondre. Il faut ajouter un troisième facteur : le contexte géopolitique, qui renforce encore la pression sur ces deux dimensions. Cela donne une conjonction très particulière.

Thomas Dallemagne : La demande en capacité de calcul explose, et il faut en parallèle conserver le contrôle des infrastructures dans un contexte géopolitique qui a profondément changé depuis 2025. L’IA bouleverse aussi la manière dont les systèmes d’information sont architecturés. Les DSI des utilities sont donc soumises à une pression considérable, avec, en parallèle, un cadre réglementaire européen qui se renforce, avec NIS 2, l’AI Act et d’autres textes. L’équation devient particulièrement complexe : il faut répondre à une demande croissante, intégrer rapidement de nouvelles technologies, maîtriser les coûts et conserver le contrôle de ses systèmes.

Quels sont les aspects qui distinguent le plus ce secteur d’activité par rapport à d’autres acteurs de l’économie française ?

Thomas Dallemagne : La particularité fondamentale des utilities est la criticité de leurs activités. Il ne s’agit pas seulement de maintenir les services opérationnels, mais aussi de répondre à une demande qui augmente fortement. Il y a donc une pression pour fournir plus, plus vite et mieux, alors même que l’IA, qui peut justement contribuer à cette efficience, apporte elle-même de la complexité et de l’incertitude. Il faut garder en tête que le secteur de l’énergie est critique pour l’ensemble de l’économie. Si les SI d’une entreprise de services tombent pendant 24 heures, cela peut avoir un impact important sur son chiffre d’affaires. Si les systèmes d’un énergéticien ou d’un opérateur critique sont interrompus, c’est potentiellement toute une chaîne économique qui peut être affectée.

Damien Tabusse : C’est aussi ce qui distingue l’énergie d’autres secteurs critiques. Sans énergie ou sans eau, une économie ne peut tout simplement pas fonctionner. Le transport, par exemple, est lui-même dépendant de l’énergie. Il existe donc un effet de propagation très important. C’est aussi pour cette raison que ces activités sont soumises aux réglementations les plus strictes. Si l’on utilise demain l’IA pour piloter un réseau énergétique, il faut notamment pouvoir comprendre et tracer ce qui se passe. Plus la criticité est élevée, plus la transparence, la traçabilité et la maîtrise humaine doivent être fortes.

Peut-on vraiment intégrer de l’IA agentique au cœur d’opérations industrielles critiques ? Jusqu’où peut-on aller avec une technologie probabiliste ?

Thomas Dallemagne : Il faut d’abord rappeler qu’une approche probabiliste n’est pas synonyme d’aléatoire. Les probabilités sont un domaine mathématique parfaitement fondé. La vraie question est plutôt celle du niveau de maîtrise et de responsabilité que l’on peut accepter lorsqu’une IA dispose d’une capacité d’action.Aujourd’hui, il n’existe pas encore de réponse définitive. Tout le monde est encore dans une phase exploratoire et personne n’est allé suffisamment loin pour évaluer toutes les conséquences. L’agentique consiste précisément à donner à une IA des outils, une mémoire, un état et une capacité d’autonomie pour agir sur des processus. Dès lors qu’elle commence à traverser différents domaines et processus, la question de la responsabilité devient centrale.

Damien Tabusse : Certaines applications sont déjà très concrètes. Pour l’assistance aux techniciens de terrain, par exemple, une IA peut fonctionner comme une FAQ augmentée et automatiser le traitement d’incidents récurrents. Lorsqu’il existe toujours les mêmes causes et les mêmes conséquences, elle peut effectuer un routage plus rapidement et parfois plus efficacement qu’un opérateur humain.

Mais le passage à l’échelle pose la question de la responsabilité. Il faut déterminer qui décide de laisser l’agent agir et dans quel périmètre. Le parallèle avec les véhicules autonomes est intéressant : la technologie peut être suffisamment performante, mais la question demeure de savoir qui est responsable lorsqu’une décision entraîne un dommage.

Thomas Dallemagne : Il y a eu un cas intéressant chez Amazon, qui avait commencé à confier à des agents IA les opérations de ses data centers. Il y a quelques mois, un agent a fait une erreur que personne n’a vue, entraînant la chute d’un data center pendant plusieurs heures. Il a fallu remonter toute la chaîne et analyser les logs de l’agent pour comprendre exactement ce qui s’était passé et quelle décision il avait prise, puis être capable de redémarrer l’ensemble. C’est un bon exemple du problème de la responsabilité dès lors qu’on confie à un agent IA des capacités d’action sur des opérations critiques.

Pour les utilities, cela implique de mettre en place des garde-fous : des règles d’escalade, du « Human in the Loop », de la traçabilité et un contrôle opérationnel. Il ne faut pas qu’un agent puisse, par exemple, prendre seul une décision critique sur la base d’une information qu’il aurait interprétée comme problématique. Il faut aussi distinguer les métiers selon leur niveau de criticité. L’IA est déjà utilisée pour le support client, le marketing ou le commerce, où le niveau de contrôle requis n’est pas le même que pour une activité industrielle critique. L’enjeu est donc moins de savoir s’il faut utiliser l’agentique que de déterminer où et jusqu’à quel niveau d’autonomie.

Les acteurs des utilities sont-ils freinés par leur legacy ou leur dette technique dans ces transformations ?

Damien Tabusse : Le legacy reste évidemment un sujet, mais l’IA change assez profondément l’équation. Les capacités d’ingénierie permettent aujourd’hui d’envisager des modernisations qui étaient auparavant trop longues ou trop coûteuses. Cela concerne aussi bien la technologie que les usages, avec la possibilité d’améliorer l’expérience utilisateur à des coûts raisonnables par exemple.

Thomas Dallemagne : C’est vrai, les projets de migration, de stabilisation ou de refactoring qui semblaient insurmontables, parce qu’ils devaient durer plusieurs années et coûter très cher, peuvent être remis en question par l’IA. Les charges de travail et les horizons de temps peuvent être considérablement réduits.

Il faut surtout changer de paradigme. J’ai un exemple concret : un distributeur d’énergie et de gaz en Belgique qui devait remplacer un outil de planification des interventions sur son réseau. Plutôt que de lancer un projet traditionnel de plusieurs années, avec cahier des charges et sélection d’une solution du marché, une approche de développement sur mesure a été testée. Une solution parfaitement intégrée au système d’information, intégrant nativement de l’IA, a finalement été construite en quelques semaines et mise en production, avec un gain d’environ un an et demi. Nous avons complètement renversé leur manière de penser le sujet en les accompagnant sur un tel projet. Acheter systématiquement une solution externe et engager plusieurs années de projet n’est plus nécessairement le meilleur réflexe. Les DSI du secteur doivent donc réexaminer leurs horizons de temps et leurs modes de décision.

Le marché s’aligne-t-il sur des standards intéressants en termes de « design » des solutions pour répondre à ces enjeux d’intégration à l’échelle ?

Thomas Dallemagne : On voit apparaître des bonnes pratiques et des architectures de référence qui permettent d’implémenter la gouvernance à l’échelle. Des notions comme les « harness », les orchestrateurs ou les gateways permettent notamment de contrôler les flux, de changer de modèle et de maintenir un certain niveau de qualité dans le temps. C’est important parce qu’un outil d’IA qui fonctionne correctement aujourd’hui ne produira pas nécessairement exactement les mêmes résultats dans quelques mois. Le marché commence donc à atteindre un premier niveau de maturité en matière de gouvernance, d’outillage et d’architecture.

On voit également émerger un vocabulaire et des protocoles communs. Des standards comme A2A ou MCP contribuent à structurer progressivement un écosystème qui était encore très fragmenté. On commence à sortir de la « jungle » des premières années. En revanche, il n’existe pas encore de consensus complet sur la manière de construire des systèmes totalement « AI driven » et agentiques à l’échelle.

Damien Tabusse : Les bases sont là. L’enjeu est maintenant de les mettre réellement en œuvre. Et cette architecture est aussi ce qui permet de préserver l’indépendance vis-à-vis des fournisseurs. Une approche agnostique des modèles et des plateformes permet, par exemple, de pouvoir changer de modèle si les conditions économiques, techniques ou de souveraineté évoluent.

Et en termes de ratio coût/valeur de l’IA ?

Thomas Dallemagne : C’est probablement l’un des sujets de gouvernance qui reste le plus difficile. Tout le monde perçoit des gains de productivité dans les usages individuels : rédiger plus rapidement, synthétiser un document, produire un contenu. Mais cela ne signifie pas encore que les entreprises mesurent des gains significatifs au niveau de leurs processus métiers. Le véritable enjeu est donc de mesurer la valeur créée par l’IA et de la mettre en regard des coûts. Une récente étude de McKinsey montre d’ailleurs le décalage entre perception et mesure : une minorité des dirigeants interrogés déclarent avoir pu quantifier une amélioration de leurs résultats d’exploitation grâce à l’IA, alors qu’une très large majorité estime que la technologie apporte de la productivité sans parvenir encore à la mesurer précisément.

Damien Tabusse : Le coût doit toujours être corrélé à la valeur. Quelques dizaines ou centaines de dollars de consommation peuvent représenter un très bon investissement si, en contrepartie, l’entreprise accélère sa production, gagne des parts de marché ou produit davantage d’énergie. La question est donc celle du retour sur investissement réel.

Mais en parallèle, il faut aussi éviter de créer une nouvelle dépendance économique. Chez Klee, notre conviction est que pour y parvenir, il faut notamment rester agnostique vis-à-vis des fournisseurs. Si un modèle doit être remplacé demain, l’architecture doit permettre de le débrancher sans remettre en cause l’ensemble de la solution.

Thomas Dallemagne : Cela suppose aussi de piloter la consommation. Un orchestrateur ou une gateway peuvent router une requête vers le modèle le plus pertinent en fonction du coût, de la performance ou de l’efficacité. À mesure que les usages passent à l’échelle, ce contrôle devient indispensable. Enfin, le coût ne se limite pas à la facture des tokens. L’impact environnemental devra également être intégré dans l’équation. Comme pour les autres usages numériques, dans une logique industrialisée à l’échelle, il sera de plus en plus difficile de considérer la consommation de ressources de l’IA comme une variable sans conséquence.