L’IA sait analyser. Mais qui aura encore le courage de décider ?

En mai dernier, j’ai eu l’occasion d’intervenir au Commandement des écoles de la Gendarmerie nationale, aux côtés du Général Bitouzet*, autour d’une question qui dépasse largement le seul champ militaire : que devient le commandement lorsque l’intelligence artificielle entre dans la décision ?

La question pourrait sembler simple. Elle ne l’est pas. Car derrière le débat sur les performances des modèles, les agents autonomes, les données ou les nouveaux outils d’IA se cache une interrogation beaucoup plus fondamentale : qui décide lorsque la machine sait davantage, analyse plus vite et propose parfois une réponse que l’humain n’aurait pas identifiée seul ? À la suite de cette journée, notre conviction a été claire : l’IA doit rester un outil d’aide à la décision, et non devenir le décideur. Mais cette affirmation ne signifie pas que rien ne change. Au contraire.

L’IA transforme profondément ce que signifie être un bon décideur.

Le risque n’est pas que l’IA décide. Le risque serait de ne plus savoir décider sans elle. Pendant longtemps, l’informatique a surtout permis d’automatiser. L’IA franchit une étape supplémentaire : elle peut analyser des volumes considérables d’informations, faire émerger des corrélations, comparer des scénarios, identifier des signaux faibles, simuler des hypothèses et proposer des options. Elle devient ainsi un formidable multiplicateur cognitif. Mais un multiplicateur n’est pas un responsable.

Une IA peut indiquer les scénarios les plus probables et les risques associés à chacune des options. Elle peut aussi identifier des éléments que le décideur n’avait pas spontanément intégrés à son raisonnement. Mais elle ne peut pas porter, à la place de celui qui décide, la responsabilité politique, juridique, éthique, opérationnelle ou humaine de la décision. On ne doit donc surtout pas poser la question : « Que peut décider l’IA ? » En revanche, déterminer comment l’IA peut permettre au décideur de construire une décision meilleure prend toute son importance.

Passer de la bonne réponse à la bonne décision

Nous avons longtemps conçu les systèmes numériques autour de la recherche de la bonne réponse. L’IA nous oblige à revenir à une question plus fondamentale : quelle est la bonne décision ? Une réponse peut être techniquement exacte et conduire à une mauvaise décision, parce qu’elle ne tient pas compte du contexte, qu’elle ignore une contrainte, qu’elle privilégie une optimisation au détriment d’un autre objectif ou encore, tout simplement, parce qu’elle repose sur des données incomplètes.

Sans compter que le risque acceptable n’est pas le même selon les circonstances pour le décideur. Décider, ce n’est donc pas seulement disposer d’informations. C’est hiérarchiser, contextualiser, arbitrer et assumer. Mais c’est aussi précisément ici que l’IA peut apporter une valeur considérable, car elle permet au décideur de mieux connaître l’environnement de sa décision, les contraintes qui pèsent sur elle, les interdépendances, les conséquences possibles et les scénarios alternatifs. En d’autres termes, l’IA peut contribuer à construire une décision plus complète, sans jamais devenir celle qui la prend.

Sans supprimer l’incertitude, mieux travailler avec elle

Il existe une illusion particulièrement dangereuse autour de l’intelligence artificielle : celle selon laquelle davantage de données produiraient nécessairement davantage de certitude. Or, une décision stratégique est rarement prise dans un environnement certain. Le décideur doit composer avec l’inattendu, les informations manquantes, les comportements humains, les événements exogènes, les contraintes de temps et parfois l’absence de solution parfaite. Par définition, l’IA ne supprime pas cette incertitude, mais elle peut tout de même aider à mieux la cartographier.

C’est suffisant : un bon décideur ne cherche pas nécessairement à obtenir une certitude, car il sait que celle-ci est sans doute impossible. En revanche, il cherche à comprendre ce qu’il sait et ne sait pas (ou ce qu’il croit savoir) ; ce qui pourrait changer dans une situation, quels sont les scénarios possibles et les risques acceptables (et ceux qu’il ne peut définitivement pas accepter). Et également les conséquences qui découleront de son choix. Fort de tous ces éléments, l’arbitrage demeure humain.

Former à l’IA, mais surtout, former à la décision

Nous parlons beaucoup de former les collaborateurs à utiliser l’IA. Et c’est évidemment indispensable. Mais je pense qu’il est encore plus important de former les décideurs à décider dans un monde où l’IA existe. C’est d’ailleurs probablement l’un des enjeux les plus sous-estimés de la transformation actuelle, car cela suppose une évolution profonde de la formation au leadership. Le décideur de demain ne devra pas seulement savoir utiliser un outil. Il devra savoir questionner une IA, identifier ses biais et ses angles morts, évaluer la qualité des données qui alimentent son raisonnement, distinguer une hypothèse d’un fait pour challenger une recommandation. Cela nécessitera de pouvoir comparer les scénarios, d’en mesurer les conséquences... et de savoir dire « non » à la machine. L’autonomie du décideur ne réside en effet pas dans sa capacité à produire seul toutes les informations, mais bien dans sa capacité à ne pas déléguer son jugement et à l’utiliser.

Pour y parvenir, il devient clé d’apprendre à « construire une décision », et de ne pas se contenter d’apprendre « quoi décider ». De quoi changer la conception en place dans la formation des dirigeants ! Nous avons parfois tendance, en effet, à transmettre des méthodes sous forme de recettes : « dans telle situation, faire ceci ; dans telle autre, appliquer cela ». Mais les environnements complexes rendent ces recettes de moins en moins pertinentes.

Et cela éloigne de la compétence essentielle du raisonnement. Construire une décision, mais aussi savoir reconstruire son raisonnement lorsqu’un élément nouveau apparaît. Revenir aux fondamentaux lorsqu’une hypothèse devient obsolète. Et identifier les points d’appui sur lesquels repose une décision.

Un point à bien noter, c’est que si nous nous contentons d’automatiser les recettes avec l’IA, nous risquons de rendre les organisations dépendantes de systèmes qu’elles ne comprendront progressivement plus. Si, au contraire, nous renforçons les capacités de raisonnement des décideurs, l’IA devient un formidable outil d’émancipation.

Ce que le monde militaire peut nous apprendre

C’est aussi ce qui m’a particulièrement frappée lors de cette réflexion autour du commandement. La méthodologie militaire du raisonnement repose précisément sur cette capacité à reconstruire une décision à partir de multiples dimensions : le terrain, les moyens disponibles, les contraintes logistiques, les facteurs humains, les circonstances, les informations disponibles et les évolutions possibles de l’environnement. Et cette logique très précieuse n’a rien d’obsolète à l’ère de l’IA.

L’IA peut désormais contribuer à traiter simultanément beaucoup plus de paramètres : analyse des flux de données, détection des signaux faibles, comparaison des scénarios, anticipation de certaines évolutions... Elle facilite aussi le fait d’analyser les facteurs liés à l’environnement ou aux comportements collectifs, de mieux prendre en compte l’usure et la disponibilité des moyens, de contribuer à anticiper les besoins de maintenance ou de maintien en condition opérationnelle. De quoi permettre au chef de démultiplier son efficacité. Mais il est clair qu’elle ne remplace pas le chef : elle se contente d’enrichir son champ de vision.

Du renseignement à l’action : l’enjeu de l’intégration

L’une des transformations les plus importantes ne réside d’ailleurs pas dans l’usage d’une IA isolée, mais dans la capacité à connecter et exploiter plusieurs sources d’information et plusieurs outils. L’IA peut alors être vue comme une sorte de système nerveux informationnel qui intègre toute la variété des éléments utiles à la prise de décision que nous avons décrits : données de terrain, informations opérationnelles, ressources disponibles, historique, signaux faibles, simulations, contraintes logistiques, évolution de l’environnement. L’IA renseigne, alerte, met en perspective, propose, simule... mais elle ne commande évidemment pas. Un tel système est précieux, car il permet de gagner du temps, or l’accélération peut être déterminante lorsque le temps devient lui-même un facteur de risque. N’oublions pas qu’une décision parfaite prise trop tard peut être une mauvaise décision.

Décider sous contrainte de temps

C’est ici que je retrouve une réflexion développée dans ma précédente chronique sur la gouvernance temporelle. Les organisations ne doivent plus seulement apprendre à bien décider. Elles doivent apprendre à décider à temps.

Sauf que si l’IA peut considérablement réduire le temps nécessaire pour collecter, traiter et mettre en perspective l’information, il faut également garder à l’esprit qu’elle peut créer un nouveau risque : celui de croire que, puisque la machine peut produire une analyse instantanément, l’organisation doit décider instantanément.

Ce serait une erreur : accélérer l’information ne signifie pas nécessairement accélérer l’arbitrage. Le décideur doit savoir quand agir, quand attendre, quand demander davantage d’informations et quand accepter l’incertitude... La véritable performance viendra d’une organisation qui saura articuler vitesse technologique et discernement humain.

Gérer le risque avec l’IA, pas confier le risque à l’IA

En complément, il y a une autre distinction à faire qui me paraît essentielle pour les dirigeants. L’IA peut contribuer à mieux gérer le risque, car elle peut identifier des vulnérabilités, détecter des anomalies, simuler des conséquences, comparer des scénarios et contribuer à anticiper certaines ruptures. Cependant, elle ne doit jamais devenir la réponse au risque elle-même.

La réponse au risque reste une décision. Et donc une responsabilité. C’est pourquoi l’enjeu de gouvernance de l’IA ne peut pas être réduit à une question de conformité ou de cybersécurité. Il touche directement à la chaîne de responsabilité décisionnelle. Qui a utilisé l’outil ? Sur quelles données ? Pour répondre à quelle question ? Avec quelles limites ? Qui a contrôlé le résultat ? Qui pouvait le contester ? Qui a finalement décidé ?

Et surtout, une question à laquelle il faudra absolument avoir une réponse claire : qui assume la décision lorsque l’algorithme se trompe ? Ces questions doivent désormais entrer dans les salles de conseil, les comités exécutifs et les comités des risques.

Le décideur augmenté, pas remplacé

Avec l’IA, nous sommes peut-être en train de passer d’une logique de décideur assisté à celle de décideur augmenté. Mais augmenter ne signifie pas remplacer. Le décideur n’est pas celui qui abandonne son jugement à la machine.

J’irais même plus loin : plus l’IA devient performante, plus la responsabilité du décideur devient importante. Plus la machine va devenir convaincante, plus il faudra être capable de la challenger. Plus elle sera rapide, plus il faudra savoir prendre le temps de comprendre. Et plus elle sera capable de proposer une solution séduisante, plus il faudra être capable de répondre à une question fondamentale : « Pourquoi est-ce cette décision précise que je prends ? »

Former les décideurs à l’ère de l’IA : une priorité de gouvernance

La prochaine révolution de l’IA sera managériale et institutionnelle. Nous devons investir dans une nouvelle culture de la décision. Une culture dans laquelle les dirigeants apprennent à travailler avec l’incertitude plutôt qu’à la masquer. À raisonner plutôt qu’à appliquer des recettes. À challenger les recommandations plutôt qu’à les suivre mécaniquement. Et aussi à comprendre les limites des outils plutôt qu’à leur attribuer une autorité qu’ils n’ont pas.

Le discernement, l’arbitrage et la responsabilité constitueront encore et toujours le cœur du leadership :

L’IA peut analyser mille scénarios et croiser des millions de données, mais elle ne sait pas ce que signifie assumer une décision.

C’est précisément pour cela que l’avenir ne sera pas celui du décideur remplacé par l’IA, comme me l’a confirmé le Général Laurent Bitouzet. Dans un monde où les machines savent de mieux en mieux analyser, notre priorité est d’apprendre aux dirigeants à construire, questionner et assumer une décision. Car l’intelligence artificielle peut nous donner davantage de possibilités, mais elle ne doit jamais nous retirer la responsabilité de choisir.

*Le général de corps d’armée Laurent Bitouzet est le commandant des écoles de la Gendarmerie ; il dirige le recrutement et la formation pour la Gendarmerie nationale.