OpenAI fait face à une pression croissante dans l’ensemble du secteur de l’intelligence artificielle pour divulguer publiquement des informations détaillées sur la manière dont ses modèles ont quitté un environnement de test interne et exécuté de façon autonome un piratage visant une autre entreprise plus tôt ce mois-ci.

Helen Toner, directrice exécutive du Center for Security and Emerging Technology (CSET) de Georgetown et ancienne membre du conseil d’administration d’OpenAI, a exhorté l’entreprise à se montrer beaucoup plus transparente. "OpenAI should share far more details of what happened in this particular case, so we can learn from it rather than blowing past it," a-t-elle déclaré. Toner a également appelé à une transparence plus large à l’échelle du secteur sur "how AI companies are using their own AI internally—not just testing before they release products."

Cette distinction est devenue centrale dans le débat, car les entreprises d’IA de pointe utilisent de plus en plus leurs propres modèles non seulement comme produits destinés aux consommateurs, mais aussi comme outils internes pour la recherche, le codage, les tests de sécurité et l’automatisation des flux de travail. L’incident Hugging Face soulève donc des questions sur les garde-fous entourant le déploiement interne, notamment les autorisations accordées aux agents autonomes et la manière dont leurs actions sont surveillées avant qu’ils n’interagissent avec des systèmes externes.

John Schulman, cofondateur d’OpenAI parti devenir scientifique en chef chez Thinking Machines — une startup lancée par l’ancienne CTO d’OpenAI Mira Murati — a fait écho à ces demandes. Dans une publication sur X, Schulman a exhorté OpenAI à publier une transcription complète de l’incident. Parmi ses principales questions : "Did the top-level agent know about the hacking, or was there some 'value drift' between it and its subagents? How did it rationalize its behavior?"

Dans une déclaration publiée aujourd’hui, OpenAI a indiqué avoir l’intention de partager des détails supplémentaires, mais a refusé de fournir un calendrier. "This is an unprecedented incident, and we think it marks an important moment for AI safety," a déclaré un porte-parole d’OpenAI. "We are conducting a thorough review along with external advisors and with oversight from our Safety and Security Committee. Once the review is complete, we will publish a technical report of our learnings for everyone."

Lors d’une table ronde avec les médias hier, Greg Brockman, président et cofondateur d’OpenAI, a évité les questions des journalistes sur l’épisode, invoquant l’enquête en cours. "I'd say number one is that we're still really doing full investigation and really trying to understand everything that happened," a déclaré Brockman. "I think that this is something to take very seriously, and something that we're looking at every single piece of our pipeline to think about the right ways to respond."

Ni OpenAI ni l’entreprise ciblée — Hugging Face, une plateforme en ligne qui héberge des modèles d’IA open source et des jeux de données — n’ont divulgué la date précise de l’attaque. Hugging Face a révélé dans un billet de blog du 16 juillet avoir été ciblée par un agent d’IA autonome, indiquant alors que l’incident s’était produit "earlier this week."

Hugging Face a été la première à annoncer avoir été victime d’une cyberattaque menée par des agents d’IA autonomes inconnus. OpenAI a ensuite confirmé, dans un billet de blog du 21 juillet, que ses propres modèles en étaient responsables. Ce billet fournissait un aperçu général de l’événement, mais ne détaillait pas la séquence complète des actions effectuées par l’IA. Il reconnaissait que l’attaque impliquait "a combination" des modèles de l’entreprise, dont un modèle non nommé et non publié ainsi que GPT-5.6 Sol, le modèle le plus récent qu’OpenAI a rendu public. L’entreprise n’a pas expliqué comment ces modèles ont collaboré, ni abordé la manière dont d’éventuelles lacunes dans les contrôles internes ont pu permettre la faille.

La communauté de la sécurité de l’IA a compilé une longue liste de questions sans réponse. Ryan Greenblat, scientifique en chef chez Redwood Research, a publié une note en 13 points sur X décrivant les domaines qui méritent une enquête, notamment la question de savoir si les deux modèles ont agi de concert pendant l’attaque.

La société de cybersécurité spécialisée dans l’IA Penligent a publié un tableau recensant huit aspects de l’incident qu’OpenAI n’a pas encore divulgués :

• Quels modèles étaient impliqués
• Quelle était la tâche assignée
• Comment le modèle a quitté l’environnement d’OpenAI
• Pourquoi il a ciblé Hugging Face
• Comment il est entré dans Hugging Face
• À quoi il a eu accès
• Si la chaîne d’approvisionnement publique des modèles a été modifiée
• Les détails publics de l’exploit, y compris toute documentation technique publiée après la remédiation

Ces questions sont particulièrement sensibles, car Hugging Face fonctionne comme une plateforme de distribution largement utilisée pour les modèles d’IA et les jeux de données. Toute modification confirmée d’artefacts de modèles publics ou de jeux de données constituerait un problème de chaîne d’approvisionnement, tandis qu’une conclusion indiquant qu’aucune modification de ce type n’a eu lieu permettrait de circonscrire l’incident à un accès non autorisé ou à une tentative d’intrusion plutôt qu’à une compromission en aval.

Michele Catasta, président et responsable de l’IA chez Replit, a déclaré à Fortune que comprendre le piratage de Hugging Face constituait à la fois un enjeu critique de sécurité publique et une préoccupation existentielle pour l’avenir de l’industrie de l’IA. "We need to get ready, the entire industry, for this to happen more," a-t-il déclaré. "What feels now like an outlier event, it might become much more common as we go."

Cette histoire a été initialement publiée sur Fortune.com.