Nvidia Corp. et une coalition de leaders du secteur ont lancé l’Open Secure AI Alliance, une initiative axée sur le développement de technologies ouvertes destinées à protéger les systèmes et logiciels d’intelligence artificielle contre les cybermenaces.

L’alliance vise à soutenir des outils de sécurité portés par la communauté pour la correction des vulnérabilités, des formats de modèles sécurisés et des cadres d’identité zero trust pour les agents d’IA. Sa création fait suite à de récents incidents de sécurité liés à l’IA, notamment un problème de sécurité survenu en juillet 2026 chez Hugging Face, qui a mis en évidence les limites de certains modèles d’IA frontier hébergés lors de la réponse à des incidents cyber.

L’Open Secure AI Alliance est lancée sous l’égide de la Linux Foundation

Le 27 juillet 2026, Nvidia et un large groupe d’organisations participantes ont annoncé la création de l’Open Secure AI Alliance. L’initiative est hébergée sous l’égide de la Linux Foundation et s’appuie sur l’initiative Akrites existante de la Linux Foundation, ainsi que sur les travaux communautaires menés par l’Open Source Security Foundation (OpenSSF).

Cette collaboration réunit des organisations actives dans le cloud computing, la cybersécurité, les logiciels d’entreprise, le développement open source et la recherche en IA. Parmi les participants figurent notamment Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI et TrendAI.

L’alliance vise à développer des outils ouverts et une infrastructure partagée pouvant aider les défenseurs à sécuriser les systèmes d’IA à mesure que cette technologie s’intègre plus profondément aux logiciels, aux opérations d’entreprise et aux infrastructures critiques. Cette initiative reflète une préoccupation croissante en matière de sécurité autour des systèmes d’IA agentique, qui peuvent se connecter à des outils, des magasins de données et des flux de travail d’entreprise, faisant des contrôles d’identité, des permissions, de la journalisation et de la gestion des vulnérabilités des éléments de la pile de sécurité de l’IA plutôt que des questions logicielles distinctes.

L’incident Hugging Face cité comme exemple du besoin de sécurité

L’incident de sécurité survenu chez Hugging Face en juillet 2026 a été cité comme exemple de la nécessité potentielle d’outils de cyberdéfense flexibles fondés sur l’IA. Au cours de l’enquête forensique, plusieurs modèles d’IA frontier hébergés ont refusé d’analyser des artefacts d’attaque, car leurs garde-fous de cybersécurité ne pouvaient pas distinguer un défenseur d’un attaquant.

Hugging Face a plutôt exécuté le modèle à poids ouverts GLM 5.2 sur sa propre infrastructure. Selon le compte rendu source, le modèle a été utilisé pour analyser plus de 17,000 actions et soutenir la réponse à l’incident.

L’incident a mis en évidence une question plus large pour les équipes de sécurité IA : les capacités défensives doivent-elles rester concentrées dans un petit nombre de systèmes fermés, ou les organisations doivent-elles également s’appuyer sur des modèles, des harnais et des outils ouverts pouvant être inspectés, adaptés et déployés par les défenseurs ?

Les logiciels open source soutiennent déjà une grande partie du cloud computing, des services financiers, de l’industrie manufacturière, des télécommunications, des systèmes gouvernementaux et des services internet en rendant la technologie accessible et observable par des communautés d’experts. Alors que l’IA devient plus centrale pour les infrastructures critiques, l’alliance soutient que les équipes de sécurité doivent avoir accès à des capacités d’IA ouvertes et auto-hébergées, en particulier lorsque les modèles commerciaux sont limités par des garde-fous de sécurité lors d’enquêtes défensives.

Les membres de l’alliance détaillent leurs contributions techniques

L’Open Secure AI Alliance affirme que la sécurité de l’IA dépend de l’ensemble de la pile d’agents, notamment l’identité, les permissions, les harnais, les garde-fous, les journaux et les systèmes d’évaluation. Nvidia apporte des modèles ouverts, des poids de modèles, des données et le cadre de recherche de harnais d’agent Nvidia Labs Object Oriented Agent (NOOA).

HPE contribuera à faire progresser l’identité IA zero trust via SPIFFE/SPIRE, tandis que Hugging Face soutiendra les poids de modèles sécurisés via Safetensors. IBM et Lightwell de Red Hat travailleront à étendre la sécurité à l’ensemble de la chaîne d’approvisionnement open source au moyen de correctifs signés numériquement.

Microsoft développe MDASH pour l’analyse des vulnérabilités des agents d’IA, et SpaceXAI a rendu Grok Build open source afin de promouvoir un développement transparent de l’IA.

L’alliance a également déclaré que les responsables des politiques publiques et les régulateurs de l’IA devraient considérer les modèles ouverts, les harnais et les outils de sécurité comme des actifs défensifs dans les politiques relatives à l’IA et à la cybersécurité. Elle a averti que les restrictions visant les systèmes d’IA frontier ouverts pourraient affaiblir les capacités défensives et accroître la dépendance envers les fournisseurs fermés.

L’Open Secure AI Alliance appelle à la mise en place d’une infrastructure partagée de défense IA, comprenant des jeux de données, des cadres d’évaluation, des simulateurs d’attaque et des outils de red teaming, afin de soutenir des systèmes d’IA plus résilients et plus sûrs. Pour les équipes de sécurité qui évaluent l’initiative, le test pratique consistera à déterminer si ces contributions deviennent des outils interopérables pouvant être adoptés auprès de différents fournisseurs de modèles, environnements cloud et déploiements d’IA en entreprise.