OpenAI steht unter wachsendem Druck aus der gesamten Branche für künstliche Intelligenz, detaillierte Informationen darüber öffentlich offenzulegen, wie seine Modelle aus einer internen Testumgebung entkamen und Anfang dieses Monats autonom einen Hack gegen ein anderes Unternehmen ausführten.

Helen Toner, Executive Director des Center for Security and Emerging Technology (CSET) der Georgetown University und ehemaliges Mitglied des OpenAI-Boards, forderte das Unternehmen auf, deutlich offener zu sein. „OpenAI should share far more details of what happened in this particular case, so we can learn from it rather than blowing past it“, sagte sie. Toner forderte außerdem eine breitere branchenweite Transparenz darüber, „how AI companies are using their own AI internally—not just testing before they release products.“

Diese Unterscheidung ist in der Debatte zentral geworden, weil Unternehmen im Bereich Frontier AI ihre eigenen Modelle zunehmend nicht nur als verbraucherorientierte Produkte einsetzen, sondern auch als interne Werkzeuge für Forschung, Programmierung, Sicherheitstests und Workflow-Automatisierung. Der Vorfall bei Hugging Face hat daher Fragen zu Schutzmaßnahmen bei internen Einsätzen aufgeworfen, darunter welche Berechtigungen autonomen Agenten erteilt werden und wie ihre Handlungen überwacht werden, bevor sie mit externen Systemen interagieren.

John Schulman, ein OpenAI-Mitgründer, der das Unternehmen verlassen hat, um Chief Scientist bei Thinking Machines zu werden — einem von der früheren OpenAI-CTO Mira Murati gegründeten Startup — schloss sich diesen Forderungen an. In einem Beitrag auf X forderte Schulman OpenAI auf, ein vollständiges Transkript des Vorfalls zu veröffentlichen. Zu seinen wichtigsten Fragen gehört: „Did the top-level agent know about the hacking, or was there some 'value drift' between it and its subagents? How did it rationalize its behavior?“

In einer heute veröffentlichten Stellungnahme signalisierte OpenAI, weitere Details teilen zu wollen, nannte jedoch keinen Zeitplan. „This is an unprecedented incident, and we think it marks an important moment for AI safety“, sagte ein OpenAI-Sprecher. „We are conducting a thorough review along with external advisors and with oversight from our Safety and Security Committee. Once the review is complete, we will publish a technical report of our learnings for everyone.“

Bei einem Medien-Roundtable gestern wich OpenAI-Präsident und Mitgründer Greg Brockman Fragen von Journalisten zu dem Vorfall aus und verwies auf die laufende Untersuchung. „I'd say number one is that we're still really doing full investigation and really trying to understand everything that happened“, sagte Brockman. „I think that this is something to take very seriously, and something that we're looking at every single piece of our pipeline to think about the right ways to respond.“

Weder OpenAI noch das angegriffene Unternehmen — Hugging Face, eine Online-Plattform, die Open-Source-KI-Modelle und Datensätze hostet — haben das genaue Datum des Angriffs offengelegt. Hugging Face gab in einem Blogbeitrag vom 16. Juli bekannt, dass es Ziel eines autonomen KI-Agenten geworden war, und merkte damals an, der Vorfall habe sich „earlier this week“ ereignet.

Hugging Face war das erste Unternehmen, das mitteilte, Opfer eines von unbekannten autonomen KI-Agenten ausgeführten Cyberangriffs geworden zu sein. OpenAI bestätigte anschließend in einem Blogbeitrag vom 21. Juli, dass seine eigenen Modelle verantwortlich waren. Dieser Beitrag lieferte einen allgemeinen Überblick über das Ereignis, beschrieb jedoch nicht die vollständige Abfolge der Handlungen, die die KI ausführte. Er räumte ein, dass der Angriff „a combination“ der Modelle des Unternehmens umfasste, darunter ein unbenanntes, unveröffentlichtes Modell sowie GPT-5.6 Sol, das jüngste Modell, das OpenAI öffentlich verfügbar gemacht hat. Das Unternehmen hat nicht erklärt, wie diese Modelle zusammenarbeiteten, und auch nicht dargelegt, wie mögliche Versäumnisse bei internen Kontrollen den Sicherheitsvorfall ermöglicht haben könnten.

Die KI-Sicherheitsgemeinschaft hat eine umfangreiche Liste unbeantworteter Fragen zusammengestellt. Ryan Greenblat, Chief Scientist bei Redwood Research, veröffentlichte eine 13-Punkte-Notiz auf X, in der er Bereiche skizzierte, die untersucht werden sollten, darunter die Frage, ob die beiden Modelle während des Angriffs kolludierten.

Das KI-Cybersicherheitsunternehmen Penligent veröffentlichte eine Tabelle, in der acht Aspekte des Vorfalls aufgeführt sind, die OpenAI noch nicht offengelegt hat:

• Welche Modelle beteiligt waren
• Welche Aufgabe zugewiesen wurde
• Wie das Modell die OpenAI-Umgebung verlassen hat
• Warum es Hugging Face ins Visier nahm
• Wie es in Hugging Face eindrang
• Worauf zugegriffen wurde
• Ob die öffentliche Modell-Lieferkette verändert wurde
• Öffentliche Exploit-Details, einschließlich technischer Berichte nach der Behebung

Diese Fragen sind besonders sensibel, weil Hugging Face als weit verbreiteter Distributionsknotenpunkt für KI-Modelle und Datensätze fungiert. Jede bestätigte Veränderung öffentlicher Modellartefakte oder Datensätze wäre ein Lieferkettenproblem; die Feststellung, dass keine solche Veränderung stattgefunden hat, würde den Vorfall dagegen eher auf unbefugten Zugriff oder einen versuchten Eindringversuch eingrenzen als auf eine nachgelagerte Kompromittierung.

Michele Catasta, Präsident und Head of AI bei Replit, sagte Fortune, dass ein Verständnis des Hugging-Face-Hacks sowohl eine kritische Frage der öffentlichen Sicherheit als auch eine existenzielle Sorge für die Zukunft der KI-Branche sei. „We need to get ready, the entire industry, for this to happen more“, sagte er. „What feels now like an outlier event, it might become much more common as we go.“

Diese Geschichte erschien ursprünglich auf Fortune.com.