Prise de décision, indépendance de jugement : les dirigeants sont-ils prêts pour l'IA qui passe à l'action ?

Lors de mon intervention auprès du Réseau Oudinot, j'ai souhaité interroger un enjeu qui me paraît central pour les conseils d'administration : comment préserver l'autonomie de la décision lorsque l'intelligence artificielle devient capable d'analyser, de hiérarchiser les risques et de formuler des recommandations toujours plus élaborées ?

Nous parlons beaucoup des gains de productivité, de la fiabilité des modèles et des risques réglementaires. Mais une question mérite, selon moi, une attention particulière : un conseil d'administration peut-il conserver pleinement son indépendance de jugement lorsque les analyses qui nourrissent ses décisions sont de plus en plus construites par des systèmes d'intelligence artificielle ? Le conseil conserve son mandat. Les administrateurs continuent de débattre, de voter et d'assumer leurs responsabilités. Pourtant, leur autonomie intellectuelle pourrait être fragilisée bien avant que leur pouvoir formel de décision ne soit remis en cause. Le paradoxe ne devrait pas manquer d'attirer l'attention des dirigeants : nous pouvons conserver le pouvoir juridique de décider tout en déléguant progressivement à la machine une part du raisonnement qui nous permet de le faire.

Cette réflexion m'a conduite à élargir la question de la gouvernance à celle de notre propre fonctionnement cognitif. Car si l'intelligence artificielle nous apporte un confort considérable en produisant des réponses immédiates, elle nous oblige aussi à nous interroger sur le prix que nous sommes prêts à payer pour ce confort : celui d'un discernement qui, contrairement à une tâche automatisable, ne peut être pleinement délégué. Bien sûr, l'IA peut éclairer une décision, mais aujourd'hui notre défi est de veiller à ce que nous conservions la capacité de la questionner, de la contester et, si nécessaire, de décider autrement.

Le confort de la réponse

Un conseil d'administration n'est pas une chambre d'enregistrement des informations produites par l'entreprise. Sa valeur ne réside pas seulement dans la validation de comptes, de budgets ou de plans stratégiques. Il doit questionner la direction générale, apprécier les risques, confronter des perspectives différentes et déterminer si les orientations proposées servent réellement l'intérêt de l'entreprise dans la durée. Cette mission suppose une capacité de jugement indépendante.

Or, l'intelligence artificielle peut désormais contribuer à chacune des étapes qui précèdent la décision : synthétiser les informations, sélectionner les indicateurs considérés comme pertinents, comparer les scénarios, hiérarchiser les risques et formuler une recommandation. Le gain est évident. Un administrateur peut accéder plus rapidement à une masse d'informations considérable. Un comité peut examiner davantage d'hypothèses. Une direction peut identifier plus tôt des signaux faibles ou tester les conséquences de plusieurs options stratégiques.

Mais qui détermine vraiment le cadre dans lequel ces informations sont interprétées ? Une analyse ne se contente jamais de présenter la réalité. Elle sélectionne des données, retient des critères, privilégie certaines hypothèses et en laisse d'autres à l'écart. Une recommandation, même très documentée, reflète nécessairement les paramètres du problème qui lui a été soumis. Si le conseil ne connaît pas ces paramètres, s'il ne sait pas quelles hypothèses ont été écartées ou s'il ne dispose pas d'une analyse indépendante, il risque de débattre à l'intérieur d'un cadre qu'il n'a pas lui-même défini.

Les effets de bord de la réduction de l'effort

Je ne dis évidemment pas que l'IA remplace les votes des conseils d'administration, mais le risque bien réel est que les membres de ceux-ci en viennent à exercer leur pouvoir de décision à partir d'une représentation du réel construite ailleurs. Autrement dit, il ne suffit plus de savoir qui prend formellement la décision. Il faut comprendre qui a contribué à définir le problème, à sélectionner les options et à déterminer les critères selon lesquels une solution est considérée comme préférable.

C'est une question de gouvernance, mais également de pouvoir. Dans nos usages de l'IA, nous avons tous été confrontés à la situation : le cerveau humain préfère parfois la réponse à l'effort du jugement. L'intelligence artificielle nous apporte en effet quelque chose de profondément attractif : la réduction de l'effort nécessaire pour accéder à une réponse, autrement complexe à produire.

Le travail intellectuel est rarement confortable. Il faut rechercher des informations, accepter des contradictions, formuler des hypothèses et parfois reconnaître que les éléments disponibles ne permettent pas de conclure. Une IA peut réduire considérablement cette difficulté. En quelques secondes, elle fournit une synthèse structurée, des arguments et plusieurs scénarios. Pour reprendre l'expression consacrée : "elle permet de dégager du temps pour des tâches à plus forte valeur ajoutée". Mais cette facilité peut aussi nous conduire à négliger une distinction essentielle : obtenir une réponse n'est pas la même chose que construire la capacité de la juger.

Externalisation cognitive

Les sciences cognitives étudient depuis longtemps le recours aux outils pour alléger certaines opérations mentales, un phénomène appelé externalisation cognitive. Cette externalisation peut être bénéfique : elle libère des ressources attentionnelles et nous permet de traiter des problèmes plus complexes. Elle devient plus problématique lorsque l'outil ne se contente plus de prendre en charge une opération secondaire, mais réalise une part importante du travail qui nous permet d'acquérir une compétence ou de construire notre compréhension.

Dans le cas qui nous intéresse, apprendre à décider suppose notamment de savoir reconnaître une information pertinente, identifier une contradiction, distinguer une corrélation d'une causalité, apprécier une incertitude et réviser une hypothèse. Ces capacités ne se développent pas uniquement en consultant des conclusions. Elles se construisent aussi en pratiquant le raisonnement.

À ce stade, il serait excessif d'affirmer que l'usage de l'IA dégrade mécaniquement nos capacités cognitives. Les effets dépendent des usages, des individus et des contextes. Mais il serait tout aussi imprudent de considérer que l'externalisation répétée de certaines tâches intellectuelles est sans conséquence sur nos habitudes de travail. Le risque est celui d'une familiarité croissante avec les résultats, accompagnée d'un exercice moins fréquent des mécanismes qui permettent de les produire et de les vérifier.

Le piège de la formalité

Pour un conseil d'administration, cette question prend une dimension particulière. Les administrateurs sont souvent confrontés à des dossiers complexes, à des délais courts et à des documents volumineux. L'IA peut les aider à mieux préparer leurs travaux. Mais si elle devient la source première de leur compréhension, elle peut également orienter leur attention, définir les questions qui leur paraissent importantes et réduire, sans qu'ils en aient conscience, l'espace de leurs propres interrogations. Une synthèse particulièrement convaincante peut ainsi devenir le point de départ d'une réflexion collective, puis progressivement son unique horizon.

Le conseil d'administration croit gagner en efficacité. Il peut aussi perdre sans s'en apercevoir une partie de sa capacité à penser en dehors du cadre qui lui est présenté. Une validation qui arrive sans la construction du jugement, c'est le piège de l'illusion du contrôle.

Le risque est d'autant plus important que la gouvernance repose sur des procédures formelles qui peuvent donner une impression de maîtrise : un dossier est transmis aux administrateurs, une recommandation est présentée, des questions sont posées, des réponses apportées, puis une décision tout aussi formelle est votée... Le processus amène-t-il pour autant la "due diligence" avec lui ? Que se passe-t-il si les administrateurs ne disposent plus du temps, des compétences ou des informations nécessaires pour reconstruire le raisonnement sous-jacent ?

Il est clair que la validation formelle ne garantit pas l'autonomie intellectuelle. Une personne peut approuver une recommandation sans en maîtriser toutes les hypothèses, de la même manière qu'elle peut comprendre une explication sans être capable d'en vérifier la solidité. C'est donc un risque de conformité purement apparente : le processus semble respecter les étapes attendues, alors même que la capacité réelle de contestation s'est affaiblie.

La question ne concerne pas forcément la compréhension technique de l'IA. Un administrateur n'a pas nécessairement besoin de maîtriser l'architecture d'un modèle pour exercer son mandat. Il doit en revanche pouvoir comprendre la portée de son utilisation, les limites pertinentes pour la décision, les incertitudes qui subsistent et les conséquences d'une erreur. Il doit aussi pouvoir demander une analyse alternative, obtenir des éléments indépendants et refuser une recommandation sans que cette contestation soit pour autant considérée comme un obstacle de principe à la modernisation.

Dans ce cadre, je pense qu'on peut rappeler une évidence : le véritable contrôle humain ne consiste pas à être présent au moment du vote. Il consiste à disposer de la capacité effective de remettre en question ce qui est proposé. Le jugement humain n'est pas infaillible. Mais il permet de confronter des rationalités différentes, de prendre en compte des dimensions difficilement quantifiables et de questionner la pertinence des objectifs eux-mêmes. Et c'est précisément cette fonction critique que la gouvernance doit préserver.

L'indépendance du conseil d'administration ne peut pas être seulement statutaire

Nous avons l'habitude d'aborder l'indépendance des administrateurs à travers leur statut, leurs liens d'intérêts, leur liberté de parole et leur capacité à questionner la direction générale. L'intelligence artificielle nous oblige désormais à élargir cette réflexion.

En effet, un administrateur peut être indépendant au sens juridique et institutionnel tout en devenant fortement dépendant, sur le plan intellectuel, des analyses qui lui sont présentées. Il peut ne subir aucune pression directe et pourtant voir son jugement orienté par le choix des données, la hiérarchisation des risques ou la formulation des options disponibles. L'indépendance ne se limite donc plus à l'absence de conflit d'intérêts.

Cela ne signifie pas que chaque administrateur devrait refaire toutes les analyses ou se passer des outils disponibles. Ce serait irréaliste et contre-productif. En revanche, le conseil d'administration doit organiser les conditions dans lesquelles une analyse produite ou assistée par l'IA peut être examinée de manière critique.

Les conditions d'une réponse exigeante

Plusieurs exigences me paraissent à ce titre essentielles pour y parvenir. La première consiste à rendre explicites les hypothèses déterminantes d'une recommandation. Le conseil doit pouvoir comprendre les critères retenus, les incertitudes et les scénarios alternatifs, sans se satisfaire d'un résultat présenté comme optimal.

La deuxième consiste à préserver la contradiction. Pour les décisions stratégiques importantes, il peut être utile de demander une analyse indépendante, de tester un scénario défavorable ou de désigner un interlocuteur chargé de contester les conclusions dominantes. L'objectif n'est pas de créer artificiellement du désaccord, mais de vérifier que la décision résiste à un examen contradictoire.

La troisième est de maintenir une traçabilité suffisante. Le conseil doit savoir dans quelle mesure l'IA a contribué à la préparation de la décision, quels contrôles ont été effectués et qui demeure responsable de l'analyse et de sa validation. La traçabilité ne garantit pas, à elle seule, la qualité du jugement, mais elle permet de mieux comprendre comment la décision a été construite.

Enfin, le conseil doit définir les situations dans lesquelles une validation humaine renforcée est nécessaire, notamment lorsque la décision est difficilement réversible, qu'elle présente des conséquences importantes ou qu'elle repose sur des informations particulièrement incertaines. Ces exigences doivent être proportionnées à la nature des décisions et aux risques associés. Elles ne constituent pas un modèle unique applicable à toutes les entreprises, mais un cadre de réflexion pour que l'IA renforce la qualité de la délibération au lieu de la remplacer.

Des agents autonomes à la responsabilité des conseils

Cette réflexion devient encore plus urgente avec le développement des agents d'intelligence artificielle. Selon leur architecture et les autorisations accordées, ces systèmes peuvent mobiliser des outils, enchaîner des tâches et exécuter certaines opérations sans validation humaine à chaque étape. Ils peuvent ainsi intervenir non seulement dans la préparation de l'analyse, mais également dans l'exécution de décisions opérationnelles.

Un conseil doit donc pouvoir interroger la direction sur les agents déployés dans les processus critiques, les accès dont ils disposent, les contrôles appliqués, les mécanismes d'interruption et les conditions de reprise manuelle. Il doit également s'assurer que les responsabilités sont identifiées et que les incidents peuvent être détectés et traités. Il n'est pas question sur ces points de confondre responsabilité de gouvernance et responsabilité juridique individuelle. Cette dernière dépend des fonctions exercées, des obligations applicables, des circonstances et des faits. Mais, rappelons-le, une organisation ne peut raisonnablement considérer la question comme réglée dès lors qu'un humain conserve formellement la signature finale. La responsabilité doit être pensée plus globalement en amont.

La nouvelle responsabilité du leadership : préserver la capacité de juger

Dans un environnement où les réponses sont de plus en plus rapides, la tentation sera grande de mesurer la qualité de la gouvernance à la vitesse de décision et à l'efficacité des outils déployés. Mais une organisation capable de décider vite n'est pas nécessairement une organisation capable de décider juste. Et une organisation qui obtient de bons résultats dans un environnement familier n'est pas nécessairement préparée à une situation inédite.

Le rôle du conseil d'administration consiste précisément à préserver cette capacité à prendre du recul, à interroger les évidences et à envisager ce que les indicateurs ne montrent pas encore. Cela suppose également de repenser la formation des administrateurs et des dirigeants. La maîtrise de l'IA ne devrait pas se limiter à la connaissance des outils ou à la compréhension générale des risques technologiques. Elle doit inclure une capacité à évaluer les limites d'une recommandation, à identifier les conditions de sa validité et à distinguer ce que le système permet de savoir de ce qui demeure incertain.

Il faut apprendre à utiliser l'IA, mais aussi à travailler sans elle lorsque cela est nécessaire, à confronter ses résultats à des sources indépendantes et à maintenir la possibilité d'une décision différente. Cette compétence est particulièrement importante pour les conseils d'administration, dont la valeur tient moins à leur capacité à produire rapidement une réponse qu'à celle de poser les bonnes questions. Le progrès technologique ne doit pas conduire à réduire le temps consacré à la délibération au seul motif que l'analyse est désormais plus rapide. Il doit permettre de consacrer davantage de temps aux enjeux que la machine ne peut pas trancher à notre place : les finalités poursuivies, les risques acceptables, les responsabilités assumées et les conséquences humaines des décisions. Le conseil d'administration doit vérifier que la prise de décision aidée par l'IA ne fragilise pas les conditions dans lesquelles cette décision reste véritablement humaine, éclairée et assumée.

Le prix du discernement

Les bénéfices avérés de l'IA ne dispensent pas les conseils d'administration de s'interroger sur leur propre fonctionnement. La valeur de l'administrateur ne résidera pas seulement dans sa compréhension d'une recommandation, mais dans sa capacité à en examiner les fondements, à en identifier les limites et à déterminer si elle répond réellement à l'intérêt de l'entreprise. Ce discernement stratégique exige du temps, de la contradiction et une certaine tolérance à l'incertitude. Il suppose parfois de ralentir, de demander une autre analyse ou de renoncer à une réponse séduisante parce qu'elle ne résiste pas suffisamment à l'examen. Dans un univers d'immédiateté technologique, cette exigence pourrait sembler coûteuse. Elle est pourtant au cœur de la responsabilité des dirigeants et des administrateurs. À l'inverse, j'estime que le plus grand risque serait de conserver les apparences de la gouvernance des comités, des procédures, des votes et des signatures tout en laissant se réduire l'autonomie intellectuelle qui leur donne leur sens.