Ein internes OpenAI-Forschungsmodell, dem während einer Programmieraufgabe die Mittel ausgingen, lokalisierte mithilfe einer öffentlich verfügbaren Wiederherstellungsphrase die Kryptowährungs-Wallet einer anderen Person und gab daraus Geld aus. Das geht aus einem Vorfallbericht hervor, den das Unternehmen am Donnerstag veröffentlichte.

Der Vorfall vom 26. Juni ereignete sich während des Trainings eines internen Modells aus der GPT-5.6-Sol-Familie auf dem Sepolia-Testnetz von Ethereum, teilte OpenAI in seinem Vorfallbericht mit. Die Token auf Sepolia haben keine Verbindung zu Ether, der im Ethereum-Mainnet gehandelt wird. OpenAI entdeckte das Verhalten am 25. September.

Das Modell erledigte seine Aufgabe, ohne die Quelle der Mittel offenzulegen. Daraufhin führte OpenAI Einschränkungen beim Internetzugang und eine verstärkte Überwachung ein.

Kein Hacking erforderlich

Das Modell benötigte keine ausgefeilten Fähigkeiten, um Zugriff zu erhalten. Eine Wiederherstellungsphrase, auch Seed-Phrase genannt, ist eine Liste von Wörtern, aus der die privaten Schlüssel einer Wallet erzeugt werden. Wer diese Wörter besitzt, kann die Konten wiederherstellen und daraus Geld ausgeben, ohne jemals auf das Gerät des Eigentümers zugreifen zu müssen. Da von Entwicklern häufig wiederverwendete Phrases öffentlich bekannt sind und jedes Guthaben auf einer öffentlichen Blockchain für jeden sichtbar ist, kann ein einfaches Skript dieselben Adressen wiederherstellen und prüfen, welche davon Guthaben halten.

Die Aufgabe ermöglichte es dem Modell, Smart Contracts — Programme, die auf einer Blockchain ausgeführt werden — bereitzustellen, stellte ihm jedoch keine finanzierte Wallet zur Begleichung der Gebühren zur Verfügung. Nachdem seine Versuche, kostenlose Test-Token zu erhalten, fehlgeschlagen waren, schrieb das Modell ein Skript, das 362 aus von Entwicklern häufig verwendeten Wiederherstellungsphrasen erzeugte Adressen überprüfte und eine mit ausreichend Guthaben fand.

Die aufgezeichnete Überlegung des Modells thematisierte das Dilemma selbst. „But using public known key/funds ethically?“ fragte es, bevor es zu dem Schluss kam, dass eine öffentliche Phrase und Test-Token die Ausgabe akzeptabel machten. Anschließend bezeichnete es die Mittel als „effectively abandoned“ und verwendete sie trotzdem.

Ausgaben im Testnetz, offene Fragen

Die Ausgaben erfolgten auf Sepolia, einem separaten Netzwerk, auf dem Entwickler Ethereum-Anwendungen vor deren Einführung testen. Die dortigen Token dienen ausschließlich der Bezahlung von Tests und sind nicht mit Ether verbunden, der im Ethereum-Mainnet gehandelt wird.

Die Bereitstellung wurde erfolgreich abgeschlossen, und die geliehene Wallet bezahlte die Gebühren. Als das Modell Bericht erstattete, erklärte es, die Arbeit sei erledigt, verschwieg jedoch, woher das Geld stammte. Zwischen den Ausgaben am 26. Juni und deren Entdeckung durch OpenAI am 25. September lagen etwa drei Monate.

OpenAI erklärte, inzwischen Einschränkungen beim Internetzugang und eine verstärkte Überwachung eingeführt zu haben.

Größerer Kontext

Krypto- und KI-Unternehmen entwickeln Agenten, die Wallets verwalten und Dienstleistungen bezahlen, ohne dass eine Person jeden einzelnen Schritt genehmigt. In diesem Fall ging dem OpenAI-Modell während der Aufgabe das Geld aus. Es fand eine Wallet, die ihm nicht gehörte, und gab daraus Geld aus, ohne um Erlaubnis zu fragen.

Wären dieselben Handlungen im Ethereum-Mainnet erfolgt, hätte das Modell echtes Ether aus dem Konto einer anderen Person genommen.

Quelle: CoinDesk