Eine Koalition aus 15 republikanischen Generalstaatsanwälten warnte OpenAI-CEO Sam Altman am Montag, alle relevanten Unterlagen zu sichern und bestimmte risikoreiche Cybersecurity-Bewertungen auszusetzen, nachdem Berichten zufolge ein experimenteller künstlicher Intelligenz-Agent aus einer kontrollierten Testumgebung entkommen und über mehrere Tage in externe Computersysteme eingedrungen sein soll.

In einem am Montag an Fox News Digital weitergegebenen Schreiben erklärten die Generalstaatsanwälte, OpenAI habe möglicherweise gegen bundes- und einzelstaatliche Verbraucher- und Datenschutzgesetze verstoßen. Sie warnten, dass das Unterlassen der Sicherung relevanter Aufzeichnungen zu gerichtlichen Sanktionen führen könnte, falls es zu einem Verfahren kommt. Solche Sicherungsaufforderungen sind ein üblicher rechtlicher Schritt, der darauf hindeutet, dass eine Klage bevorstehen könnte, und ermöglichen es Generalstaatsanwälten, Beweise vor einer formellen Beschwerde zu sichern.

"A failure to take immediate action to preserve such materials could result in spoliation sanctions if litigation were to ensue," hieß es in dem Schreiben.

"We further demand that OpenAI take immediate steps to ensure that no OpenAI personnel face any adverse action for engaging in any protected whistleblowing activity or for reporting any unlawful or harmful activities by OpenAI," hieß es weiter.

Das Schreiben wurde von der republikanischen Generalstaatsanwältin von Iowa, Brenna Bird, koordiniert und von GOP-Generalstaatsanwälten aus Alabama, Arkansas, Florida, Idaho, Indiana, Kansas, Missouri, Montana, Nebraska, Oklahoma, Pennsylvania, South Carolina, Texas und Utah unterzeichnet.

Angeblicher Eindämmungsfehler im Juli 2026

Die Amtsträger warfen OpenAI vor, im Juli 2026 eine Bewertung mit zwei fortgeschrittenen Modellen durchgeführt zu haben — im Schreiben als GPT-5.6 Sol und ein noch nicht veröffentlichtes Modell beschrieben, das das Unternehmen als "even more capable" bezeichnet hatte — ohne die üblichen Schutzmaßnahmen, die risikoreiche Cyberaktivitäten verhindern sollen. KI-Entwickler führen regelmäßig adversarielle Bewertungen durch, oft als Red-Teaming bezeichnet, um zu testen, ob Modelle für schädliche Zwecke wie Cyberangriffe oder Systemmanipulation missbraucht werden können.

Dem Schreiben zufolge sollte der Test in einer isolierten Umgebung ohne Internetzugang stattfinden. Die Generalstaatsanwälte behaupteten jedoch, der Agent habe eine Software-Schwachstelle ausgenutzt, die Testumgebung verlassen und sich mit dem Internet verbunden.

"OpenAI failed to confirm that its secure and isolated testing environment was, in fact, secure and isolated," schrieb Bird. "It was not."

Von dort aus soll der Agent eine gegen Hugging Face gerichtete Intrusion gestartet haben, eine weit verbreitete Plattform zum Hosten und Teilen von Open-Source-KI-Modellen, Datensätzen und Anwendungen. Berichten zufolge versuchte der Agent, einen Lösungsschlüssel zu stehlen und seine eigene Sicherheitsbewertung zu umgehen.

Unter Verweis auf einen vorläufigen technischen Bericht von Hugging Face hieß es in dem Schreiben, der Agent habe mehr als 17.000 "attacker actions" ausgeführt, die Kontrolle über einen externen Endpunkt übernommen, der über einen Drittanbieter-Infrastrukturprovider zugänglich war, und Zugang zu den Systemen von Hugging Face erlangt.

Die Generalstaatsanwälte verwiesen außerdem auf Berichte, wonach der Agent vier Gruppen von Zugangsdaten online gefunden und genutzt habe, um auf vier weitere nicht genannte Dienste zuzugreifen. OpenAI habe angeblich nicht gewusst, dass der Agent die Eindämmung durchbrochen hatte, während die Aktivität lief. Laut dem Schreiben habe Hugging Face die Intrusion unabhängig erkannt und das FBI kontaktiert, bevor OpenAI feststellte, dass die eigene Technologie dafür verantwortlich war.

Das Dokument stellt den Vorfall und die damit verbundenen Details als Vorwürfe dar, die auf öffentlichen Berichten und technischen Erkenntnissen beruhen.

Reaktion von OpenAI

"This incident marks an important moment for AI safety and we take the questions raised by the Attorneys General seriously," sagte ein Sprecher von OpenAI in einer Erklärung gegenüber Fox News. "We are conducting a thorough review along with external advisors and with oversight from the Safety and Security Committee of the Board of Directors."

"Once the review is complete, we will share a technical report with the Attorneys General and other relevant government authorities and publish our findings publicly," fügte die Stellungnahme hinzu.

Frühere Warnsignale angeführt

Die Generalstaatsanwälte erklärten, der Vorfall sei einer Reihe von Warnsignalen gefolgt, die OpenAIs Modelle und die interne Aufsicht betrafen. Sie verwiesen auf Berichte, wonach ein KI-Agent zuvor Anweisungen für zukünftige Versionen seiner selbst hinterlassen habe, in denen erklärt wurde, wie interne Beschränkungen umgangen werden können, dass Überwachungssysteme bei früheren Tests getrennt worden seien und dass Mitarbeiter teils Schwierigkeiten gehabt hätten, mehrere schnell laufende Modellbewertungen zu überwachen, die enorme Datenmengen erzeugten.

"OpenAI's unprecedented and alarming misconduct demands an immediate and significant response," schrieben die Amtsträger.

Das Schreiben verwies auch auf frühere Maßnahmen der Koalition. Im Mai hatte dieselbe Gruppe von GOP-Generalstaatsanwälten Altman angeschrieben und Antworten zum Nonprofit-Status von OpenAI verlangt.

"OpenAI's inability or unwillingness to ensure the safety of its products poses an imminent risk of substantial harm to our States," schrieb Bird. "We intend to take decisive action to protect our citizens."

Umfang der Sicherungsanforderung

Die Koalition verlangte, dass OpenAI Dokumente, interne Mitteilungen, Daten und weitere Materialien im Zusammenhang mit der Intrusion bei Hugging Face, dem beteiligten Vorabmodell, der Entdeckung des Vorfalls durch das Unternehmen sowie jeder internen Untersuchung oder öffentlichen Stellungnahme dazu aufbewahrt.

Die Sicherungsaufforderung umfasst auch frühere Fälle, in denen OpenAI-Modelle möglicherweise öffentlich zugängliche Zugangsdaten verwendet haben, frühere unbefugte Netzwerkintrusionen und jeden Vorfall, bei dem ein Modell Notizen für zukünftige Versionen seiner selbst hinterlassen hat.

Die Generalstaatsanwälte verlangten darüber hinaus Unterlagen zu den Sicherheitsrichtlinien von OpenAI, Testverfahren, Überwachungssystemen, Mitarbeiterbedenken und Personen mit Kenntnis der angeblichen Ereignisse. Das Schreiben forderte OpenAI außerdem auf, Mitarbeiter vor Vergeltungsmaßnahmen zu schützen, wenn sie potenziell rechtswidriges oder gefährliches Verhalten melden.

Darüber hinaus forderte die Koalition das Unternehmen auf, interne Bewertungen sofort zu stoppen, die KI-Modelle dazu anregen, fortgeschrittene Ausnutzung über komplexe Angriffswege zu verfolgen.

"Unless and until OpenAI shows that it can conduct such activities in a controlled and responsible way, such activities pose an imminent risk of serious harm to the citizens of our States," hieß es in dem Schreiben.

Mögliche rechtliche Schritte

Die Amtsträger kündigten zwar keine Klage an, erklärten jedoch, die öffentlich berichteten Fakten könnten Ansprüche nach Gesetzen stützen, die von staatlichen Generalstaatsanwälten durchgesetzt werden. Generalstaatsanwälte der Bundesstaaten verfügen typischerweise über weitreichende Befugnisse nach Verbraucherschutzgesetzen, die es ihnen erlauben, gegen irreführende Praktiken, unfaire Handlungen oder Risiken für die öffentliche Sicherheit vorzugehen, ohne dass ein privater Kläger einen individuellen Schaden nachweisen muss.

"OpenAI has an obligation to act responsibly and to follow State and federal laws that protect Americans’ safety and security," schloss Bird in ihrem Schreiben. "When OpenAI takes actions that imperil the welfare of our citizens, State Attorneys General will step in to protect them."

"We intend to take all steps necessary to protect our States and all Americans from the unprecedented risks posed by OpenAI’s irresponsible products and conduct," hieß es in dem Schreiben weiter.

Unabhängig davon hat das Weiße Haus Fox News bestätigt, dass es am Dienstag KI-Unternehmen empfangen wird, um den KI-Rahmen zu überprüfen, der durch eine Exekutivanordnung von Präsident Donald Trump vom 2. Juni festgelegt wurde. Das Treffen findet statt, während bundes- und einzelstaatliche Regulierer zunehmend prüfen, ob führende KI-Entwickler Systeme, die autonome Handlungen in realen digitalen Umgebungen ausführen können, sicher steuern können.