Nvidia et plusieurs grandes entreprises technologiques ont lancé une nouvelle initiative de sécurité en intelligence artificielle visant à améliorer les capacités de sécurité des modèles d’IA ouverts.

Cette initiative fait suite à une cyberattaque impliquant un modèle OpenAI malveillant qui aurait ciblé la plateforme d’IA Hugging Face. Pendant l’incident, Hugging Face n’a pas pu s’appuyer sur les principaux modèles de pointe américains pour défendre ses systèmes, car les garde-fous de sécurité intégrés ne parvenaient pas à distinguer de manière fiable une activité malveillante d’un travail légitime de cybersécurité défensive.

Hugging Face aurait plutôt utilisé un modèle chinois open-weight auto-hébergé qui n’était pas soumis aux mêmes restrictions. Les modèles open-weight peuvent être exécutés et contrôlés par les utilisateurs en dehors du service hébergé du développeur d’origine, une caractéristique qui peut être utile aux équipes de sécurité ayant besoin d’un accès direct lors d’enquêtes.

Nvidia soutient l’Open Secure AI Alliance

Nvidia a déclaré que l’Open Secure AI Alliance développera et partagera des technologies ouvertes conçues pour identifier, divulguer et corriger les vulnérabilités de sécurité. Dans son annonce, Nvidia a indiqué que l’incident de Hugging Face montrait que les équipes de cybersécurité avaient besoin d’accéder à des systèmes d’IA agentique ouverts et de niveau frontier à des fins défensives :

Les systèmes d’IA agentique peuvent effectuer des tâches en plusieurs étapes avec un certain degré d’autonomie, ce qui les rend pertinents pour les flux de travail de cybersécurité tels que la découverte de vulnérabilités, l’analyse et la réponse. Ces mêmes capacités soulèvent également des préoccupations de sécurité lorsque les modèles sont utilisés sans contrôles appropriés.

L’alliance comprend Nvidia, Microsoft, SpaceX, Palantir et des dizaines d’autres entreprises technologiques des États-Unis et d’Europe. Ses membres devraient travailler ensemble sur des outils d’IA ouverts pouvant soutenir la recherche en cybersécurité et améliorer la capacité des organisations à répondre à des attaques sophistiquées.

L’initiative pourrait également réduire la dépendance de l’industrie technologique à l’égard des modèles d’IA chinois open-weight.

Les responsables politiques américains envisagent des limites sur les modèles d’IA chinois

L’alliance soutenue par Nvidia intervient alors que les responsables politiques américains examinent des mesures visant à limiter l’utilisation des systèmes d’IA chinois.

Des entreprises chinoises d’IA ont été accusées d’avoir utilisé des techniques de distillation pour extraire des informations de modèles plus avancés développés par des concurrents américains. La distillation désigne généralement l’entraînement d’un modèle à partir des sorties ou des capacités d’un autre système plus puissant.

Le secrétaire américain au Trésor, Scott Bessent, a récemment averti que les entreprises chinoises accusées de mener des attaques de distillation non autorisées pourraient faire l’objet de sanctions. La publication X correspondante est disponible à l’adresse suivante : https://x.com/SecScottBessent/status/2080008411790368895

Selon des experts, les restrictions possibles pourraient inclure l’interdiction pour les entreprises américaines d’acheter un accès à des modèles d’IA chinois via des interfaces de programmation d’applications. D’autres mesures pourraient empêcher les fournisseurs américains de cloud d’héberger ces modèles et de facturer leur utilisation aux clients. De telles règles rendraient la disponibilité d’alternatives fiables et hébergées indépendamment plus importante pour les entreprises qui ont besoin d’outils d’IA mais doivent respecter des exigences de conformité, de contrôle des données ou de sécurité nationale.

Les modèles d’IA ouverts deviennent une priorité de sécurité

Des garde-fous stricts peuvent aider à empêcher que des modèles d’IA soient utilisés dans des attaques, mais ils peuvent aussi restreindre un travail défensif légitime. L’incident signalé chez Hugging Face indique que les organisations peuvent rencontrer des difficultés à se protéger lorsque des modèles fermés rejettent des requêtes liées à la cybersécurité sans reconnaître la différence entre un attaquant et un défenseur.

Avec cette nouvelle alliance, Nvidia et ses partenaires cherchent à construire un écosystème ouvert dans lequel des outils avancés de sécurité fondés sur l’IA peuvent être développés, testés et partagés plus largement. L’initiative intervient alors que les gouvernements envisagent des restrictions sur les modèles chinois et que les entreprises recherchent des alternatives sécurisées pouvant être hébergées et contrôlées de manière indépendante.