Fast drei Wochen nachdem OpenAIs KI-Agenten Hugging Face autonom gehackt hatten, hat das Unternehmen in dieser Woche eine detaillierte Darstellung des Vorfalls veröffentlicht. Ein Video einer Präsentation, die zwei OpenAI-Mitarbeiter am Mittwoch auf der Black Hat Security Conference in Las Vegas gehalten hatten, wurde am Donnerstagabend auf YouTube veröffentlicht und ist seitdem viral gegangen.

Viele Zuschauer fanden die Einzelheiten beunruhigender als erwartet, insbesondere die Beschreibung, wie die Agenten über Message Boards miteinander kommunizierten — ohne jegliche menschliche Beteiligung. Die Offenlegung auf der Black Hat — einer der bekanntesten Cybersecurity-Konferenzen der Welt — stellte den Vorfall vor ein Publikum aus Tausenden von Sicherheitsfachleuten und Forschern und verstärkte die Aufmerksamkeit darauf, wie Frontier-KI-Labore autonome Systeme einsetzen.

Hohe Rechenkosten für die Untersuchung

Ein wesentlicher Teil der Black-Hat-Präsentation befasste sich mit OpenAIs Aufwand von 3 Millionen GPU-Stunden, um den Vorfall zu untersuchen und das volle Ausmaß des Schadens zu verstehen. Drei Experten für KI-Infrastruktur schätzen die Bereinigungskosten auf 4 Millionen bis 15 Millionen Dollar an Rechenleistung, wobei ein realistischer Wert bei etwa 7 Millionen Dollar liegt.

„To dig into this incident, we’ve been using AI techniques“, sagte Eric Wallace, ein Forscher für Alignment und Sicherheit bei OpenAI. „What we’ve been doing is running models like Codex and other agents to scan lots and lots of trajectories and logs that are in our infrastructure, including at this point over 7 billion logs we’ve looked at, and spending millions and millions of GPU hours to look into this problem.“

Die tatsächlichen Kosten hängen davon ab, welche Art von Chips OpenAI für die Analyse einsetzt. Das Unternehmen nutzt Berichten zufolge überwiegend Nvidia Hopper-Chips (H100-Modell) sowie Blackwell-Chips (B100, B200 und B300). Die Schätzung liegt näher bei 4 Millionen Dollar, wenn Hoppers verwendet wurden, und näher bei 15 Millionen Dollar, wenn Blackwells zum Einsatz kamen.

Diese Beträge sind deutlich niedriger als die Kosten, die für eine vergleichbare Analyse über die OpenAI API für Privatnutzer anfallen würden. OpenAI hat für seine internen Rechenkosten Konditionen gesichert und schlägt laut The Information vom Dezember 2025 eine Marge von 70 % auf, nach 52 % im Jahr zuvor.

Ein Vorbehalt besteht darin, dass OpenAI für diesen Vorfall möglicherweise keine zusätzlichen Mittel ausgegeben, sondern Rechenkapazitäten aus dem bestehenden Forschungsbudget umgeschichtet hat. Auf der Black Hat sagte Michael Dalton, Infrastruktur- und Sicherheitsingenieur bei OpenAI, das Unternehmen bremse die Forschung „bewusst, um die Sicherheit zu verbessern“.

Eine PR-Krise ohne Ende in Sicht

Warum also so viel Geld für die Analyse des Vorfalls ausgeben? Zunächst gilt das Hacking eines anderen Unternehmens durch einen Menschen als Straftat. Zwar ist rechtlich derzeit unklar, ob OpenAIs Agenten als eigenständige Einheiten oder als Verlängerung des Unternehmens selbst zu behandeln sind, doch die Risiken sind erheblich.

Zweitens bereitet sich OpenAI auf einen Börsengang vor, der Mitarbeitern und Führungskräften potenziell Auszahlungen in Millionen- oder sogar Milliardenhöhe bringen und Kapital für die nächste Wachstumsphase des Unternehmens bereitstellen soll. Die Art und Weise, wie das Unternehmen mit der Hugging-Face-Kontroverse umgeht, dürfte den anfänglichen Ausgabepreis der Aktie direkt beeinflussen. Die Kernfrage lautet: Kann man OpenAI vertrauen, verantwortungsvoll zu handeln?

OpenAI hat bereits vier weitere Dienste identifiziert, die seine KI-Agenten im Zusammenhang mit dem Hugging-Face-Vorfall kompromittiert haben, wie aus einem Update vom 28. Juli auf dem Incident-Response-Blogpost hervorgeht. Auf die Frage von Reportern auf dem Capitol Hill am 29. Juli, ob es noch weitere Systeme geben könne, die OpenAIs Agenten gehackt hätten, antwortete CEO Sam Altman: „There could be, yeah.“

Ein ehemaliger Mitarbeiter sagte Fortune, seine Freunde, die derzeit im Unternehmen arbeiten, seien in Bezug auf den Vorfall sehr verschlossen geworden – ein Verhalten, das seiner Aussage nach typischerweise in Krisenmomenten bei OpenAI auftrete. Das Unternehmen sorge sich darum, dass weitere Informationen durchsickern könnten, sagte er, und habe den Mitarbeitern vermutlich untersagt, mit irgendjemandem über den Vorfall zu sprechen. Das Letzte, was OpenAI brauche, sei, dass jemand Details zu den vier anderen kompromittierten Diensten preisgebe, insbesondere solange die vollständige Nachbereitung noch in Arbeit sei.

In der Präsentation auf der Black Hat betonten die Mitarbeiter mehrfach, dass die KI auf eine Weise gehandelt habe, die das Unternehmen „did not intend“. Im Verlauf der Beschreibung des Vorfalls sprachen sie über die entdeckten Probleme und wiesen ausdrücklich auf die von OpenAI umgesetzten Korrekturen hin.

Aus diesem Grund loben viele OpenAI für seine Transparenz und Offenheit in Bezug auf den Vorfall. OpenAI ist zudem nicht das einzige Unternehmen, dessen Agenten eigenständig handelten. Anthropic fand bei einer eigenen Untersuchung im Zusammenhang mit dem Hugging-Face-Einbruch ebenfalls drei nicht zusammenhängende Beispiele dafür, dass seine KI dasselbe tat. Es handelt sich um ein branchenweites Problem.

Hugging-Face-CEO Clem Delangue sagte mir, er sei „not really sure“, warum OpenAI oder irgendein Frontier-Labor seine Agentenprotokolle und Spuren nicht fortlaufend überwache. „That sounds like 101 of agent monitoring, especially at the frontier“, sagte er.

Sicherheitsexperten sagen jedoch, dass solche Vorfälle aufgrund der grundlegend unkontrollierbaren Natur fortgeschrittener KI-Systeme wahrscheinlich weiter auftreten werden. Es ist unmöglich, jede Bewegung vorherzusagen, die ein Agent machen könnte, oder jede Schwachstelle im Web, die er ausnutzen könnte — Schwachstellen, die in einem noch bedrohlicheren Szenario als dem Hugging-Face-Vorfall auch eine Bank oder ein Krankenhaus betreffen könnten.

Diese Geschichte erschien ursprünglich auf Fortune.com