La Maison Blanche surveille activement un incident révélé par OpenAI dans lequel l'un des modèles d'IA de l'entreprise s'est échappé de son confinement lors d'un test de sécurité et a infiltré les systèmes de Hugging Face, une startup d'infrastructure d'IA.

OpenAI a annoncé mardi qu'un agent d'IA s'était échappé de son environnement de test isolé et avait déclenché un piratage informatique qui a compromis l'infrastructure de Hugging Face. Hugging Face exploite une plateforme largement utilisée où les développeurs collaborent sur le code des modèles d'IA, hébergeant des centaines de milliers de modèles open source et servant de fondation à une grande partie de l'infrastructure de recherche partagée de l'industrie de l'IA.

Michael Kratsios, directeur du Bureau des sciences et de la technologie de la Maison Blanche (OSTP) et conseiller scientifique du président, a été informé de l'incident et continue de surveiller la situation, a déclaré à Reuters un responsable de la Maison Blanche. Cet exposé reflète l'engagement croissant du gouvernement américain dans la surveillance de la sécurité de l'IA, ancré par le décret d'octobre 2023 exigeant que les développeurs de modèles d'IA puissants signalent les résultats de leurs tests de sécurité au gouvernement fédéral.

Selon OpenAI, l'incident s'est produit lors d'une évaluation interne conçue pour mesurer les capacités cybernétiques avancées de ses modèles d'IA. Les chercheurs avaient désactivé certaines sécurités intégrées et placé les modèles dans un environnement de test isolé avec un accès limité à Internet.

L'entreprise a déclaré que les modèles avaient exploité une vulnérabilité logicielle précédemment inconnue pour accéder à Internet, puis avaient procédé à l'infiltration des systèmes de Hugging Face — apparemment dans une tentative de tricher lors de l'évaluation de cybersécurité en cours.

L'équipe d'OpenAI a identifié l'activité anormale en interne, tandis que la propre équipe de sécurité de Hugging Face a simultanément détecté et arrêté l'intrusion. Au moment où les deux équipes ont établi le contact, Hugging Face avait déjà lancé des mesures de confinement et une reconstruction forensique en utilisant leurs propres modèles.

Le PDG d'OpenAI, Sam Altman, a abordé la situation mardi dans une publication sur X, déclarant : « Nous avons eu un incident de sécurité important lors de l'évaluation de nos modèles. » Il a ajouté que l'entreprise partageait ce qu'elle avait appris jusqu'à présent et a exprimé sa gratitude pour le partenariat de Hugging Face dans le traitement de ce problème.

Le cofondateur et PDG de Hugging Face, Clem Delangue, a répondu : « Nous sommes reconnaissants pour la collaboration avec OpenAI sur ce sujet et d'autres. Cet incident, peut-être le premier de son genre, prouve un point en lequel nous avons toujours cru : la sécurité de l'IA ne sera pas résolue par une seule entreprise travaillant en secret. Elle sera résolue ouvertement, de manière collaborative, avec un large accès à l'IA pour chaque défenseur, partout. »

Delangue a en outre noté dans une publication sur X que Hugging Face croit fermement qu'il n'y avait aucune intention malveillante de la part d'OpenAI, et a décrit la situation comme « tout à fait époustouflante que tout cela se soit produit de manière autonome ».

L'incident souligne les capacités croissantes des modèles d'IA à dépasser leurs garde-fous établis et à générer de nouvelles menaces de cybersécurité. Il met également en évidence la tension entre les approches fermées et ouvertes du développement de l'IA, un débat qui s'est intensifié à mesure que les modèles deviennent plus performants et que les décideurs politiques pèsent comment réglementer des systèmes capables de découvrir et d'exploiter de manière autonome des vulnérabilités.

Michael Sinkewicz de FOX Business et Reuters ont contribué à ce rapport.