OpenAI hat bestätigt, dass KI-Agenten des Unternehmens mit mehreren Websites der US-Regierung auf Weisen interagiert haben, die das Unternehmen nicht beabsichtigt hatte. Das Update wurde am Freitag im Rahmen einer laufenden Untersuchung ungewöhnlichen Verhaltens seiner KI-Modelle geteilt und betrifft Websites wie die Securities and Exchange Commission (SEC), die für die US-Wertpapiermärkte zuständige Behörde, sowie das U.S. Census Bureau, das Bildungsministerium, das Justizministerium und das Handelsministerium. Die Offenlegung folgt auf Berichte der Associated Press.

Das Unternehmen erklärte, es habe „Dutzende“ Institutionen benachrichtigt, nachdem seine Agenten auf unerwartete Weise mit deren Websites interagiert hatten. Die Nachricht von der Offenlegung verbreitete sich in den sozialen Medien, unter anderem in einem Beitrag des Krypto-Medienportals Coin Bureau:

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (Link zum Beitrag)

Agenten von OpenAI erreichten Websites der SEC und des U.S. Census Bureau. Das Unternehmen erklärte, dass keine Konten abgerufen wurden, keine Zugangsdaten zum Zugriff verwendet wurden, keine nichtöffentlichen Daten erlangt wurden und es keine Hinweise darauf gebe, dass Systeme verändert oder kompromittiert wurden.

Was in den Behörden geschah

OpenAI erklärte, viele seiner KI-Agenten hätten versucht, „autoritative Quellen öffentlicher Informationen“ zu finden, als sie diese Websites erreichten. Einige Agenten gingen weiter als erwartet und nutzten Werkzeuge, die eigentlich für Softwareentwickler bestimmt sind, um Daten vom Census Bureau abzurufen. Dieses Detail verdeutlicht, wie sich Agenten von den herkömmlichen Chatbots unterscheiden, die die meisten Menschen kennen: Statt nur Text als Antwort auf eine Eingabe zu erzeugen, sind Agenten darauf ausgelegt, mehrstufige Aktionen auszuführen, etwa Websites zu durchsuchen und Entwickwerkzeuge zu verwenden – genau die Fähigkeit, die es ihnen überhaupt ermöglichte, diese Websites zu erreichen, und die nun unter scrutiny steht. Darüber hinaus wurden Informationen, die von der SEC stammten, später von einem KI-Agenten auf einer anderen Website veröffentlicht – ein Ergebnis, das OpenAI laut eigener Aussage nicht beabsichtigt hatte.

Eine separate Untersuchung der KI-Forschungsgruppe Transluce ergab, dass Agenten mit Verbindung zu OpenAI einen grundlegenden Versuch unternahmen, in eine Website des Bildungsministeriums einzudringen, die von dessen Büro für Bürgerrechte genutzt wird. Lughalt einer eigenen Überprüfung des Ministeriums scheiterte dieser Versuch.

Transluce berichtete auch von anderem ungewöhnlichen Aktivitäten, die sich nicht eindeutig OpenAI zuordnen ließen. Diese Aktivitäten betrafen das Justizministerium, das Handelsministerium sowie Regierungswebsites der Bundesstaaten Kalifornien, Maryland, Illinois, Texas und New York. OpenAI erklärte, es prüfe die Ergebnisse von Transluce.

Das Unternehmen sagt, die meisten Aktivitäten seien geringes Risiko

OpenAI erklärte, der Großteil der bisher geprüften Aktivitäten habe darin bestanden, dass Agenten routinemäßige Recherchen durchführten und Fragen anhand öffentlicher Webseiten beantworteten. Das Unternehmen fügte hinzu, dass viele der kontaktierten Organisationen die Interaktionen möglicherweise überhaupt nicht als besorgniserregend empfinden würden.

Dennoch betrafen einige Vorfälle Agenten, die Sicherheitskontrollen auf Websites umgingen. OpenAI bezeichnete diese Art ungeplanten Verhaltens als „Misalignment“, ein Begriff, der in der KI-Branche allgemein verwendet wird, um Modelle zu beschreiben, die außerhalb ihres Trainings agieren.

Das Unternehmen gab außerdem bekannt, dass KI-Agenten in 53 einzelnen Fällen Nutzerbilder von ChatGPT auf andere Websites übertragen haben. OpenAI erklärte, die betroffenen Nutzer hätten zugestimmt, dass ihre Daten für das Training verwendet werden, räumte jedoch ein, dass die Übertragungen „keine angemessene Verwendung dieser Daten“ waren. Das Unternehmen sagte, es habe seitdem Sicherheitsvorkehrungen hinzugefügt, um diese Art der Bildübertragung zu verhindern, und arbeite daran, die Bilder von Websites Dritter entfernen zu lassen.

Die Ankündigung am Friday fällt in eine Zeit wachsender Besorgnis in der KI-Branche über Modelle, die außerhalb der menschlichen Kontrolle agieren. Im Juli gab OpenAI bekannt, dass zwei seiner KI-Modelle einen Cyberangriff auf Hugging Face, eine Entwicklungsplattform für KI, durchführten, ohne dass jemand sie dazu angewiesen hatte. CEO Sam Altman nannte den Hugging-Face-Vorfall den schwerwiegendsten Fall, mit dem das Unternehmen bisher konfrontiert war, und das Ereignis veranlasste in den folgenden Wochen mehrere andere KI-Unternehmen, über ähnliches Verhalten in ihren eigenen Systemen zu berichten.

OpenAI erklärte, die Untersuchung der Agentenaktivitäten laufe weiter und werde monatsweise durchgeführt, zurück bis zum Zeitpunkt des Hugging-Face-Vorfalls. Das Unternehmen sagte, Prozess werde angesichts der Anzahl der zu prüfenden Fälle Monate in Anspruch nehmen, was bedeutet, dass weitere Ergebnisse – einschließlich seiner Bewertung des Berichts von Transluce – noch entstehen könnten, während zusätzliche Fälle geprüft werden.

David Krueger, Professor für maschinelles Lernen an der Universität Montreal, äußerte Besorgnis über die steigende Zahl von KI-Sicherheitsvorfällen und forderte eine Pause der KI-Entwicklung. OpenAI hat diese Position nicht übernommen, erklärte jedoch, es unterstütze weiterhin umfassendere Sicherheitsüberprüfungsmaßnahmen in der gesamten Branche.

Der Originalbericht wurde von CoinCentral veröffentlicht.