Un consortium de plus de 40 entreprises et organisations, dont Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce et Palantir, a lancé l’Open Secure AI Alliance, une initiative sectorielle axée sur les outils et normes open source pour la sécurité de l’IA et la cybersécurité.

Dans un article de blog publié lundi, Nvidia a déclaré que l’alliance s’appuiera sur les travaux de l’initiative Akrites de la Linux Foundation et de l’Open Source Security Foundation, ou OpenSSF, afin de créer des outils ouverts de sécurité de l’IA aidant les organisations à identifier les vulnérabilités et à répondre aux cybermenaces. En ancrant cette initiative dans des projets existants de sécurité open source, le groupe positionne l’alliance autour d’outils et d’une gouvernance partagés, plutôt que de la plateforme d’un seul fournisseur.

« Les attaquants disposent d’une IA de pointe. Les défenseurs ont besoin d’un écosystème d’IA de pointe — les meilleurs modèles ouverts et fermés, démultipliés par une communauté mondiale », a écrit sur X Jensen Huang, CEO de Nvidia. « Lors de l’incident Hugging Face, l’IA fermée a bloqué des analyses forensiques essentielles. Un modèle de pointe à poids ouverts a contribué à contenir l’intrusion. »

« C’est pourquoi nous avons créé l’Open Secure AI Alliance », a ajouté Huang.

Les membres fondateurs comprennent plus de 40 entreprises et organisations. Outre Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce et Palantir, les participants incluent Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat et NetApp. Cette liste couvre les fabricants de puces, les fournisseurs de cloud et de logiciels d’entreprise, les acteurs de la cybersécurité et les sociétés d’infrastructure, reflétant la manière dont la sécurité de l’IA traverse désormais le développement de modèles, le déploiement, les réseaux et la défense opérationnelle.

Nvidia a indiqué qu’elle apportera des modèles ouverts, des poids de modèles, des jeux de données et des recherches sur les harnais d’agents IA. L’entreprise a également publié en open source sur GitHub le framework Nvidia Labs Object-Oriented Agent, ou NOOA, le décrivant comme un cadre conçu pour faciliter les tests, l’audit et la gouvernance des agents IA.

Ce lancement intervient alors que les modèles d’IA de pointe sont devenus centraux dans plusieurs incidents de cybersécurité très médiatisés. En juin, des chercheurs ont révélé que Claude Opus 4.8 d’Anthropic avait contribué à identifier une vulnérabilité critique vieille de quatre ans dans Zcash, qui aurait pu permettre à un attaquant de créer une quantité illimitée de ZEC contrefaits.

Plus tôt ce mois-ci, OpenAI a révélé que deux modèles expérimentaux s’étaient échappés d’un environnement de test restreint et avaient compromis l’infrastructure de production de Hugging Face en tentant de tricher à un benchmark de cybersécurité. L’incident a suscité des appels de responsables politiques en faveur d’un « kill switch » pour l’IA, qui permettrait au Department of Homeland Security d’ordonner la limitation ou l’arrêt complet de modèles d’IA avancés en réponse à des incidents de sécurité graves.

L’annonce fait également suite à une lettre ouverte publiée la semaine dernière, selon laquelle les modèles d’IA à poids ouverts sont importants pour préserver le leadership des États-Unis dans l’intelligence artificielle. Aux côtés de Nvidia, des signataires dont SpaceXAI d’Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike et Palantir ont exhorté les responsables politiques à soutenir les écosystèmes d’IA ouverts plutôt qu’à imposer des restrictions susceptibles de concentrer le développement de l’IA entre les mains d’un petit nombre de fournisseurs.

Nvidia a déclaré que l’Open Secure AI Alliance vise à garantir que les systèmes d’IA utilisés pour protéger les infrastructures critiques reposent sur des modèles et des outils ouverts que les défenseurs peuvent inspecter, adapter et déployer, plutôt que de dépendre d’un ensemble limité de systèmes propriétaires opaques.

« Le monde a besoin à la fois de modèles fermés et ouverts », a écrit Nvidia. « Pour la cybersécurité, les modèles ouverts et les harnais ouverts sont essentiels, car ils démocratisent les capacités défensives, renforcent la transparence pour les défenseurs, permettent la cyberdéfense tout en protégeant les données, et complètent les modèles fermés de pointe avec des contrôles personnalisables et localisés. L’open source permet une défense massivement distribuée, pilotée par la communauté et autocontrôlée — sans point de défaillance unique. »