Avec l'Open Secure AI Alliance, NVIDIA pousse sa vision de la sécurité des agents IA

Les agents IA gagnent du terrain. Leur sécurisation s'impose déjà comme le prochain front de bataille. NVIDIA a annoncé ce 27 juillet la création de l'Open Secure AI Alliance, une coalition réunissant près de quarante entreprises et organisations autour d'un objectif commun. Adobe, Cisco, IBM, Microsoft, Salesforce, SAP ou encore la Linux Foundation figurent parmi les membres fondateurs. L'initiative vise le développement et le partage d'outils, de techniques et de briques open source afin d'améliorer la sécurité des logiciels et des agents IA. NVIDIA met dans la corbeille un projet de recherche consacré aux agent harnesses, ces couches logicielles chargées d'encadrer le fonctionnement des agents, de tracer leurs actions et de faciliter leur audit. L'annonce traduit une volonté d'organiser un écosystème autour de standards communs, avant que les usages des agents autonomes ne s'imposent dans les entreprises. 

L'affaire Hugging Face érigé en démonstration 

NVIDIA présente l'ouverture du code comme une condition de la cybersécurité des agents IA. Le groupe estime que les entreprises doivent pouvoir inspecter, adapter et exécuter leurs modèles sur leurs propres infrastructures afin d'accélérer les analyses en cas d'incident. La médiatique intrusion qu'a récemment subi Hugging Face nourrit cette démonstration. La plateforme a lancé le modèle ouvert GLM 5.2 sur sa propre infrastructure afin d'analyser plus de 17 000 actions et retracer le déroulé de l'attaque. Les services fermés sollicités en parallèle n'ont pas pu participer à cette analyse, faute de distinguer des opérations défensives d'activités malveillantes. Un modèle exécutable en local offre aux équipes de sécurité un accès complet aux journaux, aux traces et aux données sensibles. Cette lecture reste discutée. L'ouverture facilite aussi l'étude et l'adaptation des modèles par des acteurs malveillants. La frontière ne passe donc pas entre open source et logiciel propriétaire, mais entre des architectures capables d'encadrer les usages et celles qui en restent dépourvues. 

L'open source plaide sa cause 

Les membres de l'alliance demandent aux régulateurs de reconnaître les modèles ouverts comme des outils de défense pour la cybersécurité. Cette position intervient pendant les discussions sur les futurs cadres de gouvernance de l'IA. Les règles à venir orienteront les investissements des entreprises, les architectures retenues pour les agents IA et la répartition de la valeur entre fournisseurs de modèles et acteurs de l'infrastructure. NVIDIA avance donc une ligne favorable à son activité. Chaque entreprise qui déploie un modèle sur son propre environnement investit dans des capacités de calcul, le cœur du marché du groupe. L'Open Secure AI Alliance répond à un enjeu de sécurité, tout en renforçant le plaidoyer de NVIDIA en faveur d'un écosystème ouvert.