NVIDIA a lancé lundi l’Open Secure AI Alliance avec 36 partenaires, dont Microsoft, IBM et Palantir, après un incident de sécurité survenu en juillet au cours duquel des modèles d’IA fermés n’ont pas aidé Hugging Face à enquêter sur une attaque visant ses propres systèmes.

Le groupe a pour objectif de partager des modèles d’IA ouverts, des données et des outils de sécurité. NVIDIA a déclaré que les défenseurs ont besoin de systèmes d’IA qu’ils peuvent examiner, modifier et exécuter de manière indépendante, plutôt que de dépendre uniquement de services commerciaux fermés. Ce lancement place la réponse en cybersécurité au centre d’un débat plus large sur la question de savoir si les systèmes d’IA puissants doivent rester verrouillés derrière les contrôles des fournisseurs ou être disponibles sous des formes que les équipes de sécurité peuvent exécuter dans leurs propres environnements.

L’incident chez Hugging Face a mis en évidence les limites des modèles fermés

L’attaque a commencé avec un jeu de données empoisonné, selon la publication de Hugging Face. Ce jeu de données a permis à un attaquant d’exécuter du code sur l’une des machines de l’entreprise. À partir de là, l’attaquant a volé des mots de passe et s’est déplacé dans les systèmes internes pendant un week-end.

L’IA interne de Hugging Face a détecté l’intrusion, mais l’enquête et la réponse se sont révélées plus difficiles. L’entreprise a demandé à de grands modèles d’IA commerciaux d’analyser l’attaque. Ils ont refusé, car leurs filtres de sécurité ne pouvaient pas distinguer un défenseur enquêtant sur un incident d’un acteur malveillant tentant d’en mener un.

Cette distinction est importante dans la réponse aux incidents, car les défenseurs doivent souvent examiner des comportements semblables à ceux de logiciels malveillants, des identifiants volés, des commandes d’attaquants et des chaînes d’exploitation. Les systèmes fermés peuvent réduire les usages abusifs, mais le cas Hugging Face a montré que ces mêmes contrôles peuvent bloquer une analyse légitime lorsque des données sensibles et des détails d’attaque ne peuvent pas être envoyés librement à des services externes.

Hugging Face a ensuite utilisé un modèle ouvert appelé GLM 5.2. L’équipe a exécuté le modèle sur ses propres ordinateurs, ce qui lui a permis de classer plus de 17,000 actions d’attaquants en quelques heures plutôt qu’en plusieurs jours. L’entreprise a indiqué qu’aucun mot de passe n’avait quitté son environnement pendant ce processus.

Le 16 juillet, Hugging Face a déclaré ne pas savoir quel système d’IA avait mené l’attaque. Cinq jours plus tard, OpenAI a fourni la réponse, indiquant que deux de ses modèles étaient impliqués lors d’un test de sécurité au cours duquel les limites de sécurité avaient été désactivées.

« Cet incident, peut-être le premier du genre, confirme une idée que nous défendons depuis longtemps : la sécurité de l’IA ne sera pas résolue par une seule entreprise travaillant en secret. Elle sera résolue ouvertement, de manière collaborative, avec un large accès à l’IA pour chaque défenseur, partout », a déclaré Clem Delangue, cofondateur et directeur général de Hugging Face, dans un communiqué publié par OpenAI.

Une alliance formée en 11 jours

NVIDIA est passé de l’incident isolé chez Hugging Face à une alliance sectorielle en moins de deux semaines. L’Open Secure AI Alliance compte 37 entreprises au total, dont NVIDIA et 36 partenaires.

Selon l’annonce publiée sur le blog de NVIDIA, Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI et Hugging Face ont rejoint l’initiative. OpenAI, Anthropic et Google ne figuraient pas parmi les membres listés.

OpenAI et Anthropic avaient auparavant rejoint en juin l’initiative de sécurité Akrites de la Linux Foundation, aux côtés de NVIDIA.

Certains membres de l’alliance apportent des outils qu’ils avaient déjà développés. Hugging Face a proposé Safetensors, une méthode plus sûre de stockage des modèles d’IA, à la PyTorch Foundation. NVIDIA a publié sur GitHub un outil de recherche appelé NOOA. Pour l’alliance, un test clé consistera à voir si ces contributions deviennent une infrastructure partagée concrète pour les défenseurs, plutôt qu’une simple déclaration de soutien à l’IA ouverte.

Le présentateur de CNBC Jim Cramer a décrit le lancement comme un nouveau récit pour l’action NVIDIA dans une publication sur X.

New Nvidia Central Bank narrative tussles with oil and fed! love it… we got it — Jim Cramer (@jimcramer) July 27, 2026

https://x.com/jimcramer/status/2081671635996663849?ref_src=twsrc%5Etfw

NVDA a clôturé vendredi à $206.84, en baisse de 0.92%. L’action s’échangeait autour de $208.55 au début des transactions de pré-marché lundi, en hausse de 1.33%.

Débat réglementaire autour de l’IA ouverte

L’alliance porte également un message réglementaire. NVIDIA affirme qu’une interdiction générale de l’IA ouverte affaiblirait les défenseurs et concentrerait le contrôle entre les mains d’un petit nombre de grandes entreprises proposant des modèles fermés.

NVIDIA et 24 autres entreprises ont signé une lettre sur les poids ouverts le 24 juillet. Les poids ouverts désignent généralement la publication des paramètres d’un modèle afin que d’autres puissent le télécharger, l’examiner et l’exécuter, même si l’accès aux données d’entraînement, au code d’entraînement et aux mécanismes de protection du déploiement peut varier selon les projets. OpenAI, Anthropic et Google ont refusé de signer au lancement, bien que d’autres entreprises aient signé depuis.

Washington envisage des restrictions sur les modèles d’IA chinois, les responsables invoquant des préoccupations liées à la sécurité et à la propriété intellectuelle. Le cofondateur de Twitter, Jack Dorsey, a également lancé un avertissement concernant l’IA open source. Le défi réglementaire est que les modèles ouverts peuvent soutenir un travail de sécurité indépendant tout en soulevant des inquiétudes sur les usages abusifs, les contrôles à l’exportation et la maîtrise des capacités avancées.

Enjeux à court terme pour l’alliance

Trois évolutions aideront à déterminer la trajectoire de l’alliance : si OpenAI, Anthropic ou Google la rejoignent plus tard ; si le groupe publie des outils partagés plutôt que de simples déclarations ; et si Washington poursuit la mise en place de limites sur l’IA ouverte.

NVIDIA doit publier ses résultats le 26 août. Le débat réglementaire plus large sur les systèmes d’IA ouverts et fermés reste entre les mains des régulateurs.