Être un expert cybersécurité "AI-ready" : oui, mais comment ?

Au-delà de la formule récurrente : « quand est-ce qu’on va être hacké ? », le métier de CISO (expert ou directeur cybersécurité) est particulièrement compliqué en ce moment alors que toute la responsabilité de protéger l’entreprise, ses données et les employés repose sur l’ensemble des actions qu’il doit faire. L’adoption rapide de l’Intelligence Artificielle (IA) par tous les employés s’est souvent faite alors que même les droits d’utilisation définis de cette nouvelle technologie n’étaient pas encore définis dans une mise à jour de la charte informatique.

Dans une suite logique d’actions face à l’utilisation de l’IA, le CISO doit mettre en place, en fonction des cas d’usage qui sont adoptés par les employés, la mise à jour de la Politique de Cybersécurité et l’ajout de nouveaux standards de contrôle ayant pour objectif de protéger le capital informationnel de l’entreprise, la propriété intellectuelle, le savoir-faire ainsi que le respect des droits d’accès aux données. Avec une première approche sur la défensive face à ces nouveaux risques, les CISOs ont été obligés de prendre conscience de l’enjeu : les avantages pour les utilisateurs et les améliorations des processus de l’entreprise et, dans le même temps, remettre à jour la matrice d’analyse des risques, la défendre devant le management, puis appliquer les premiers éléments de réponse pour diminuer les risques liés à ce changement. Mais les CISOs ne sont pas les seuls à devoir s’adapter très rapidement.

D’ailleurs, s’adapter ? Ce n’est pas la première fois que nous vivons des changements brusques : le BYOD, le Cloud, le SaaS, le COVID et ses connexions à distance et maintenant l’IA, … il y a eu et il y aura quelques anomalies et surtout de gros risques de cybersécurité.

En amont de l'Excellence Sprint Cyber que j'animerai sur le thème pour Alliancy le 24 juin prochain, cette chronique propose une synthèse des risques associés à l’arrivée de l’IA. Il est malheureusement incomplète comme tout ce qu’on peut lire sur l’IA, mais il a pour objectif de recenser ce qui est certain et qui nécessite notre attention.

La Direction informatique est, elle aussi, fortement concernée par l’arrivée brutale de l’IA.

Avec l’IA, les utilisateurs ont maintenant la possibilité de faire des requêtes sur les données (en tout cas celles qu’ils gèrent) de manière indépendante de l’IT. Mais qu’en est-il de la gestion des droits d’accès aux données de l’entreprise, des erreurs issues des données mal qualifiées ou encore une absence de vision globale sur le modèle de données de l’entreprise, des problèmes de maintenance de ces fonctionnalités créées à l’occasion ; tout cela en oubliant le côté non frugal de l’IA et cette gestion terriblement instable du coût des tokens. Aurons-nous demain besoin d’une Direction des Systèmes d’Information (DSI) alors que les SI sont hébergés chez un sous-traitant (mode SaaS) et que les métiers sont de plus en plus autonomes ? C’est aussi l’un des excellents sujets abordés dans le cadre du programme "What's Next CIO" conduit par Alliancy pour les DSI.

1-0 : le match est plié en faveur des organisations cybercriminelles !

En ce qui nous concerne : défenseur du capital informationnel des entreprises, les équipes Cyber sont aussi dans une compétition terriblement déséquilibrée ; les dernières avancées de l’IA (Projet Claude 5 Mythos d’Anthropic notamment) pour identifier les failles structurelles de systèmes d’information sont tellement nombreuses (plus de 50 000 CVE estimées en 2026 - PDF) que le cauchemar du Patch Management de la direction technique des entreprises se transforme en mission impossible. Pour autant, il faudra encore et toujours trouver le point de commitment entre toutes les applications pour passer les patchs de sécurité sur ses middlewares et Operating Systems sur la base des KEV (Knowned Exploitable Vulnerability) et autres critères propres à l’entreprise comme indiqué par le CISA ci-contre et cela dans le délai le plus court possible. On parle maintenant de quelques dizaines de minutes avant qu’il existe une exploitation reconnue d’une vulnérabilité publiée ! En deçà, on parle de Zéro-Day !

L’IA apporte aussi beaucoup de facilités pour les attaquants dans la fabrication des attaques de type phishing ; elles deviennent ciblées avec une perfection qui troublerait même les plus aguerris à ce risque. Au-delà de ce constat, on ne peut que redouter que les organisations cybercriminelles conçoivent pour chaque entreprise, la liste de toutes les failles de l’infrastructure avec pour chaque vulnérabilité, un pourcentage de succès !

De même, ces organisations criminelles de l’ombre ont certainement dressé la liste des personnes qui jouent un rôle important dans les entreprises (personnes ayant un accès privilégié aux comptes d’administration et aux comptes accédant aux données essentielles de l’entreprise) avec le pourcentage de réussite par type d’attaque ! Cette liste serait une consolidation des rôles de chaque personne : tous les comptes et droits d’accès de celle-ci qui ont été piratés et que l’on peut trouver simplement ou par reconstruction via des techniques d’OSINT dans le DarkNet. Ces bases de données en partie issues des Initial Access Brokers, par exemple, sont régulièrement accessibles gratuitement alors qu’elles ont été vendues à plusieurs reprises par le hacker après un certain temps. Il est courant que la compétition entre hacker fait que cette information qui est monnayée initialement par celui qui l’a trouvé est aussi trouvée par un autre qui la rendra publique par jalousie.

Les possibilités d’infecter les entreprises via l’utilisation de Systèmes d’IA

En parallèle, on découvre de plus en plus de possibilités de tromper les Systèmes d’IA (SIA) en bypassant les "guardrails" (règles qui interdisent aux SIA de partager des informations ou de développer des réflexions sur des domaines non conformes aux réglementations). Ces règles de réponse des SIA sont définies de manière éthique et dans l’objectif de ne pas autoriser l’accès à des informations sensibles et de privilégier le respect des autres personnes. Ce sont ces règles que les cybercriminels vont bien évidemment s’employer à contourner (Jailbreak).

De nouveau, on constate qu’actuellement, le match est plié en faveur de l’attaquant qui trouvera toujours la possibilité de détourner l’attention des SIA qui copient le raisonnement humain. Si de nombreux exemples ont été publiés sur les réseaux sociaux (comme inspirer l’empathie du SIA pour accéder à des informations que le SIA peut trouver sur Internet), les guardrails se renforcent progressivement au fur et à mesure des découvertes publiées par les premiers testeurs de ces systèmes ; lesquels testeurs sont les organisations cybercriminelles.

Mais est-ce que ces gardes-fous sont la bonne approche ?

À titre d’exemple, c’est un peu ce qu’a fait Anthropic dans la version Mythos (Claude 5) rendue publique dans la version Fable5 le 10 juin 2026. Cette version dégradait le modèle de LLM vers Claude 4.8 dès qu’une question « interdite » était soumise via un prompt. Au-delà de s’insurger face à cette logique qui n’est pas très commerciale, (on peut se demander comment il est possible que votre fournisseur change les règles de prestation unilatéralement), les ingénieurs imaginaient que les guardrails étaient suffisamment robustes pour résister aux tentatives de hacks du modèle.!

Mais le 11 juin au soir, des experts d’AWS ont informé le gouvernement américain de la possibilité de contourner ces règles de protection de l’information et de potentiellement porter atteinte à la sécurité de toutes les entreprises et administrations US ; la conséquence fut la fermeture de Fable5 deux jours plus tard le 12 juin 2026 provoquant l’indignation ainsi que la prise de conscience que l’accès à ces fonctionnalités peut être coupé par un gouvernement rappelant notre dépendance vis-à-vis d’un État étranger.

Et le Shadow IA ?

C’est une nouvelle menace qui prend une place de plus en plus conséquente dans les usages. En simplifiant son accessibilité pour les utilisateurs soit à titre personnel (lorsque l’entreprise n’a pas eu le temps de définir des droits et conditions d’accès), soit à titre professionnel lorsque l’utilisation du SIA est définie dans une mise à jour de la charte informatique et la politique / standards de cybersécurité. Les utilisateurs bénéficient d’une grande facilité d’accès et une haute disponibilité (en 24/7) et ils sont sollicités pour poser autant de questions professionnellement compliquées que pour des requêtes basiques.

Et en parallèle, ces SIA utilisent la flagornerie (hyper amabilité et flatterie de son utilisateur) d’une manière plus perverse pour développer une forme d’addiction auprès des employés qui en sont victimes. C’est aussi le rôle du CISO d’expliquer ces faits aux employés pour éviter une utilisation abusive de ces solutions.

Mais qui est gagnant dans l’arrivée des SIA dans les entreprises ?

C’est bien l’utilisateur qui est gagnant ayant maintenant un assistant puissant, rapide et plutôt meilleur qu’un humain dans le rôle de conseiller / coach ou mentor dans l’environnement professionnel. En tout cas, c’est le message martelé par le marketing de tous ces fournisseurs d’IA et nous y croyons presque tous maintenant !

En plus, la frontière entre les usages public / privé est encore plus mince avec cette accessibilité facilitée et on ne constate un haut pourcentage d’utilisation des SIA dans l’environnement « Office » renforçant l’adoption individuelle de cette technologie. L’entreprise va au contraire chercher à identifier les bonnes pratiques et mutualiser dans des projets de déploiement ces SIA avec un objectif de retour sur investissement qui n’est pas encore vraiment constaté.

Les coûts de l’utilisation de l’IA

Depuis quelque temps, les grandes sociétés d’ingénierie d’IA ont maintenant consolidé toutes nos informations et s’apprêtent donc à nous les revendre sous une forme différente.

Si au départ, l’accès à l’IA était gratuit, dès lors que l’on souhaite intégrer dans un processus de l’entreprise une réflexion ou des agents à base d’IA, il faut acheter un accès et payer en fonction de la consommation. Le « token » est d’environ 0,002 €. Le principe est normal et logique dans notre société. Au demeurant, on prend conscience de deux points importants. D'une part, nous sommes dépendants de ces fonctionnalités qui sont désormais obligatoires pour les utilisateurs. D'autre part, nous ne maîtrisons pas le coût et il peut y avoir des SIA qui sont volontairement consommateurs de tokens. Ces changements rapides de base budgétaire sont une mauvaise configuration pour l’entreprise qui va être obligée de trouver le financement immédiatement. Dans beaucoup de cas, ce sera une diminution des prestations de services au profit d’achats de tokens (Source : LinkedIn Gabriel Dabi-Schwebel— série « Les Nouveaux Océans Rouges » - 6/20). On ne sait pas encore comment avoir accès à plusieurs IA et en fonction de la question, utiliser celle qui est la moins coûteuse.

Et la souveraineté de ces logiciels ? C’est un paradoxe à l’heure où on prend conscience de notre dépendance et du Kill-Switch dans les mains d’une personne imprévisible, nous ajoutons une « grosse » brique dans notre sac à dos pour gravir la montagne.

Les raisons d’espérer…

Enfin, nous pouvons garder espoir avec l’ambition d’Anthropic de mettre en place les concepts du zéro-trust appliqué à l’IA. En effet, l’un des principaux risques de l’utilisation de l’IA par de simples employés, est de ne pas voir que le SIA franchit des barrières qui ne sont pas toujours visibles. En soumettant des requêtes, progressivement, le SIA va chercher à obtenir des droits d’accès à des environnements initialement interdits. Mais au fur et à mesure des requêtes, les droits d’accès sont enregistrés comme étant acquis et ils se cumulent. Ce qui est surprenant, c’est de voir l’absence de contrôle des utilisateurs au fil des réponses ; on croit parfois voir une forme de fierté à avoir accès à des informations qui étaient en accès restreint préalablement.

Pour contrer ou anticiper les attaques par phishing, par exemple l’idée est de faire ce que les hackers font ! (C’est d'ailleurs le concept développé par Proofpoint les VAP^TM : Very Attacked People). Concevoir la liste des personnes les plus visibles (extérieurement) et celles qui ont accès aux données les plus sensibles de l’entreprise ; puis faire la liste de leurs vulnérabilités personnelles : ce qui est public (accès possible sur les réseaux sociaux) et ce que l’OSINT permet d’aller chercher y compris dans le DarkWeb. Il ne s’agit pas de détenir des informations volées et d’être condamnable pour recel mais, en accord avec le DPO, identifier les failles potentielles et demander à l’utilisateur de réduire les risques identifiés (un acteur français comme Anozrway se positionne sur de tels services).

Le combat à mener pour la formation

C’est sans doute la principale action pour diminuer les risques tout en laissant l’utilisateur bénéficier des avancées des SIA. Cette balance entre les risques et les opportunités devrait être l’axe majeur de notre communication tout en ne sous-estimant pas les actions de définition ou mise à jour de la charte, de la politique cybersécurité, des standards de contrôle, du guide d’audit interne et des procédures de sécurité.

La formation doit commencer dès le premier jour dans l’entreprise et être maintenue régulièrement en fonction des avancées des SIA et de leur utilisation. Le rôle du CISO est alors primordial pour être à l’écoute des attentes des utilisateurs pour estimer les risques et l’orienter dans une utilisation bénéfique pour l’entreprise et l’utilisateur. Sans oublier les risques liés à l’utilisation des informations de l’entreprise par les sous-traitants, qui gèrent aussi des données, la formation doit impérativement être faite pour tous les utilisateurs et en dehors du monde professionnel auprès des étudiants et lycéens.