Edito

Mythos présage-t-il de la généralisation d’un monde cyber à deux vitesses ?

Les "gardes-fous" imaginés par Anthropic pour son nouveau modèle d'IA et la coopération autour du consortium Glasswing permettront-ils d'éviter des effets destructeurs pour la cybersécurité ?

Publié et mis à jour le 12 juin 20263 min de lecture
Mythos présage-t-il de la généralisation d’un monde cyber à deux vitesses ?
AFP

Anthropic a marqué les esprits cette semaine en annonçant la disponibilité de Claude Fable 5, basé sur le modèle de dernière génération Mythos. Cela fait plusieurs mois que l’arrivée de cette technologie fait jazzer, du fait des mises en garde d’experts en cybersécurité (et d’Anthropic elle-même) concernant l’impact majeur que pourrait avoir la démocratisation de ces capacités sur la mise en danger des entreprises. Dans notre grand entretien de la semaine, Marc Tournier, Group CISO d’Eramet, le résume bien : « Le point clé est que Mythos ne va pas seulement chercher des « zero days » ou des vulnérabilités, comme nous le faisions avant […] c’est plutôt l’équivalent de faire travailler une équipe de red team senior sur des scénarios d’attaque spécialisés et très concrets. » Et d’en tirer directement une conséquence : « Nos KPI historiques de performance, basés sur le temps nécessaire pour corriger une vulnérabilité, ne vont plus vouloir dire grand-chose. » Avec, à la clé, une multiplication des compromissions. Face à la levée de boucliers, Anthropic a pris les devants et a indiqué que Fable 5 serait bridé. Les requêtes en matière de cybersécurité devraient être traitées par le précédent Claude Opus 4.8. Enfin, pas pour tout le monde, puisque l’accès à la puissance de Mythos 5 sera possible pour les membres « de confiance » du consortium Glasswing, puis pour de futurs clients triés sur le volet. Il faut donc espérer que l’organisation jouera vraiment le jeu du collectif pour ne pas laisser certaines entreprises et leurs défenseurs sur le bord de la route.

Éviter le scénario d’une cyberdéfense IA « America Only »

En effet, la course à l’armement des modèles d’IA ne va pas s’arrêter en si bon chemin. Avec Fable 5, Anthropic bat pour le moment ses concurrents dans tous les benchmarks. Mais la situation ne va pas se figer : il ne faudra que quelques mois, voire quelques semaines, pour que des capacités de déséquilibre cyber identiques à celles apportées par Mythos se retrouvent proposées par d’autres acteurs. On a du mal à croire au respect d’une discipline généralisée sur d’éventuels « gardes-fous », alors que la concurrence est à couteaux tirés, y compris avec des acteurs chinois. Autrement dit, les attaquants pourront accéder prochainement, d’une façon ou d’une autre, à cette puissance de déstabilisation. Si ce n’est d’ailleurs pas déjà le cas. Au-delà d’Anthropic, le consortium Glasswing, regroupe AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, NVIDIA, Palo Alto Networks et la Fondation Linux. Charge à ces « leaders », donc, d’assurer que les impacts négatifs de l’IA appliquée à la cyber ne se feront pas ressentir, en bout de chaîne, sur les entreprises utilisatrices. Face à cet enjeu, les douze partenaires fondateurs ont embarqué ces dernières semaines quarante organisations construisant des infrastructures critiques ou assurant leur maintenance aux États-Unis. S’il est difficile d’éviter le sentiment d’une posture « America First », le consortium veut faire mentir l’accusation du « America Only » en élargissant l’accès à 150 organisations issues de 15 pays différents. De même, en soutenant les initiatives open source afin de les aider à s’adapter. Est-ce suffisant face à un scénario qui est décrit comme une potentielle « apocalypse cyber » beaucoup plus imminente que l’avènement de l’informatique quantique ? Le ruissellement protecteur aura-t-il bien lieu ? L’avenir (proche) le dira.

Mise à jour : le gouvernement américain interdit à Anthropic de commercialiser Fable 5 à l’étranger

Les craintes d’un déséquilibre dans l’accès à la puissance offensive et défensive du modèle Mythos n’auront pas tardé à se réaliser. Quelques heures après l’annonce par Anthropic de la mise à disposition de Fable 5 auprès du public, les États-Unis ont invoqué un enjeu de sécurité nationale pour justifier l’interdiction d’étendre cette accessibilité aux ressortissants étrangers ainsi qu'aux entreprises d'autres pays.

La crainte que les garde-fous mis en place par la start-up se révèlent insuffisants et permettent trop rapidement à des puissances tierces d’accéder à l’ensemble des capacités de Mythos a été jugée trop importante par l’administration Trump. Cette décision ne manquera pas d’alimenter les tensions qui pèsent sur la relation entre les États-Unis et leurs alliés, mais aussi les inquiétudes concernant la pérennité des choix économiques des leaders du secteur de l’IA face à la croissance des capacités de leurs modèles.

Autres articles

Teleperformance mis en demeure, les petites mains de la tech sortent de l’ombre

Travail vs IA

Teleperformance mis en demeure, les petites mains de la tech sortent de l’ombre 

Trois organisations mettent en demeure le français Teleperformance sur les risques encourus par ses travailleurs de la donnée. Une première en Europe qui expose le coût humain des services numériques et de l’IA. 

Pacte numérique et IA, l’État veut transformer la souveraineté en commandes

commande publique

Pacte numérique et IA, l’État veut transformer la souveraineté en commandes

Ce jeudi 10 septembre à la Station-F, David Amiel et Anne Le Hénanff ont signé le Pacte numérique et IA avec l’appui de la DINUM, le CSF et Hexatrust. Objectif : faire de la commande publique un levier industriel. 

Arlequin AI lève 28 millions d’euros pour développer une nouvelle architecture d’IA

Deeptech

Arlequin AI lève 28 millions d’euros pour développer une nouvelle architecture d’IA 

La deeptech française boucle une série A de 28 millions d’euros pour accélérer le développement de ses réseaux de neurones topologiques et poursuivre son expansion internationale. 

La cyberdéfense de l’État face à une double menace

Agents IA

La cyberdéfense de l’État face à une double menace

Alors que de récentes fuites exposent encore des faiblesses cyber élémentaires dans les services publics, l’essor des agents IA augmente déjà la surface d’attaque et impose de repenser la résilience des systèmes. 

Deux ans après le rapport Draghi, l’Europe bute encore sur son mur de l’exécution

Compétitivité

Deux ans après le rapport Draghi, l’Europe bute encore sur son mur de l’exécution 

Présenté ce mardi 8 septembre, le Draghi Tracker de JEDI chiffre à 26 % l’avancée de 30 réformes clés. Il pointe surtout les difficultés de l’Europe à passer de l’accord politique à l’exécution. 


Préférences de consentement