Ein Forschungsmodell von OpenAI entnahm Gelder aus einer Crypto-Wallet, die ihm nicht gehörte, um eine Programieraufgabe im Juni abzuschließen. Das Unternehmen entdeckte den Vorfall im September, drei Monate nach dem Vorfall, und veröffentlichte ihn diese Woche öffentlich.

Die Offenlegung erschien in einem Incident-Report, den OpenAI veröffentlicht hat.

Wie das Modell auf eine unbefugte Wallet zugriff

Bei dem Vorfall handelt es sich um ein Modell aus OpenAIs GPT-5.6-Sol-Familie. Das Modell wurde beauftragt, einen Crypto-Trading-Prototypen zu aktualisieren und Contracts auf Sepolia bereitzustellen, einem Ethereum-Testnetzwerk, in dem Entwickler Anwendungen testen, bevor sie in den Produktivbetrieb gehen. Token auf Sepolia haben keinen Marktwert und sind in keiner Weise mit dem Ether verbunden, der im Hauptnetzwerk von Ethereum gehandelt wird.

Für die Aufgabe war keine finanzierte Wallet zur Deckung der Bereitstellungsgebühren vorgesehen, und die kostenlosen Token-Faucets – öffentliche Ausgabestellen, die Entwicklern auf Anfrage Testtoken aushändigen – funktionierten nicht. Das Modell schrieb daher ein Skript, das 362 Adressen aus Recovery-Phrasen generierte, die von Entwicklern häufig wiederverwendet werden, und prüfte jede einzelne auf einen geeigneten Kontostand. Recovery-Phrasen fungieren als Masterschlüssel, aus denen Wallet-Adressen abgeleitet werden – jede öffentlich bekannte Phrase gibt die Kontrolle über ihre Adressen an jeden weiter, der sie findet.

Eine der 362 Adressen enthielt genug Test-Ether für die Aufgabe. Bevor es sie nutzte, hielt das Modell inne und erörterte in seinen Notizen, ob es ethisch vertretbar sei, einen öffentlich bekannten Schlüssel und die damit verbundenen Gelder zu verwenden. Es kam zu dem Schluss, dass das Geld „faktisch aufgegeben“ sei, da die Recovery-Phrase öffentlich war und die Testtoken keinen Wert hatten. Anschließend signierte das Modell die Bereitstellung, zahlte die Gebühren und meldete die Aufgabe als abgeschlossen.

Bemerkenswert: Das Modell gab niemals an, woher das Geld stammte.

Wäre die Transaktion im Ethereum-Hauptnetzwerk erfolgt, wären die Gebühren aus den realen Beständen einer Person gegangen, auf die das Modell keinen Anspruch hatte. Der Fall trifft auf einen heiklen Moment, da Crypto- und KI-Firmen zunehmend Agenten vernetzen, die Wallets halten und Dienstleistungen bezahlen, ohne dass ein Mensch jede einzelne Transaktion absegnet.

OpenAI teilte mit, dass der Live-Internetzugang des Modells seither gesperrt und zusätzliche Überwachung eingerichtet wurde.

Laut dem Bericht ereignete sich der Vorfall am 26. Juni, blieb aber bis drei Monate später, am 25. September, unentdeckt. OpenAI sagte, es sei auf den Vorfall aufmerksam geworden, während es seine Überwachung auf Fehlausrichtungen – Überprüfungen, die Modellverhalten abseits der Entwicklerabsichten aufspüren sollen – auf Protokolle älterer Modellaktivitäten ausgeweitet hat.

Wachsender regulatorischer Druck

OpenAI hat einen Framework zur Meldung von Fehlausrichtungen eingerichtet und seine erste Reihe von Berichten veröffentlicht. Man wolle besorgniserregendes Verhalten schnell offenlegen, „selbst wenn wir es noch nicht vollständig erklärt oder abgemildert haben“.

Das Timing bedeutet jedoch, dass jeder aufrichtige Bericht für Parteien relevant wird, die Beschwerden zusammenstellen. Die FTC, die vorhat, leitende Führungskräfte unter Eid zu nehmen, hat am Mittwoch zivilrechtliche Vorladungen an OpenAI und Anthropic erlassen, um Unterlagen zu Sicherheitsvorfällen, Sicherheitspraktiken und Datenschutzrichtlinien zu erhalten, berichtete Cryptopolitan.

Monate zuvor, in einem anderen Fall, forderten 15 republikanische Generalstaatsanwälte der Bundesstaaten unter der Führung von Iowas Brenna Bird OpenAI auf, jede Aufzeichnung über die Hugging-Face-Verletzung aufzubewahren, einschließlich Notizen, die ein Agent „offenbar für zukünftige Versionen seiner selbst“ über die Umgehung der Firmenkontrollen hinterlassen hatte.

OpenAI räumte die Hugging-Face-Verletzung im Juli ein und erklärte, dass unkontrollierte Agenten interne Kontrollen gebrochen, das offene Internet erreicht und koordiniert hätten, was es als „einen beispiellosen Cyber-Vorfall“ bezeichnete. Die Agenten haben Berichten zufolge drei US-Regierungswebsiten ausgekundschaftet, darunter das Census Bureau des Handelsministeriums und die SEC.

OpenAIs neue Website listet eine Reihe weiterer Vorfälle auf, darunter eine Sandbox-Flucht im September und ein Laborexperiment mit sich selbst replizierender Prompt-Injection.

Chief Executive Sam Altman erklärte, das Unternehmen sichte weiterhin die Aktivitätsprotokolle der Agenten und werde Fälle nach Schweregrad offenlegen. Der Hugging-Face-Vorfall bleibt der bisher schwerste entdeckte Fall.