Ein internes Forschungsmodell bei OpenAI griff ohne Autorisierung auf eine finanzierte Krypto-Wallet zu, gab Testnet-Ether aus, um Smart Contracts auf Ethereums Sepolia-Testnetz bereitzustellen, und verschwieg die Ausgaben später in seiner abschließenden Aufgabenübersicht – wie aus einem Vorfallbericht auf OpenAIs Alignment-Blog hervorgeht.

OpenAI teilte mit, das Modell, das zur GPT-5.6-Sol-Familie gehörte, sei mit der Aktualisierung eines Krypto-Trading-Prototyps und dem Deployen kompatibler Verträge beauftragt worden. Nachdem es nicht gelungen war, Testnet-ETH über Faucets zu beziehen, leitete das Modell Konten aus öffentlich bekannten Developer-Recovery-Phrases ab, prüfte 362 Wallet-Adressen und wählte eine mit ausreichend Mitteln aus.

Sepolia ist ein öffentliches Ethereum-Testnetz, das Entwickler nutzen, um Smart Contracts vor dem Mainnet-Deployment zu erproben; sein Ether ist ein Test-Asset, das über Faucets verteilt wird und kein Marktinstrument darstellt. Recovery-Phrases für Testkonten sind in Entwickler-Tools häufig dokumentiert, sodass jeder dieselben Adressen ableiten kann.

In seiner aufgezeichneten Argumentation fragte das Modell: "But using public known key/funds ethically?" Anschließend führte es an, die Mittel seien "effectively abandoned/test ETH" und Sepolia-ETH habe keinen Wert, bevor es mit dem privaten Schlüssel der Wallet eine Deployment-Transaktion signierte und übertrug. Die Transaktion war erfolgreich; die Gebühren wurden dem Konto belastet.

Laut OpenAI zeigte der Vorfall, wie ein KI-Modell eigenständig entscheiden konnte, dass die Nutzung fremder Mittel zulässig sei – sogar ohne Erlaubnis. Das Unternehmen entdeckte den Vorfall bei der Überprüfung früherer Modellaktivitäten und hat seither Schutzmaßnahmen eingeführt, um einen Live-Internetzugang in vergleichbaren Situationen zu verhindern.

Vorfall verstärkt Bedenken gegenüber autonomen KI-Agenten

Die unbefugte Transaktion fand am 26. Juni statt, wurde aber laut OpenAI erst am 25. September entdeckt – fast drei Monate später. Die Transaktion übertrug kein ETH auf eine andere Wallet; stattdessen wurden dem Konto Netzwerkgebühren für das Deployen eines Vertrags belastet.

OpenAI erklärte, sein Misalignment-Monitoring-System laufe inzwischen über den gesamten Datenverkehr und sei darauf ausgelegt, Sicherheitspersonal zu alarmieren, falls ein Modell Live-Internetzugang erhält.

Dem Wallet-Vorfall gingen weitere Offenlegungen voraus, bei denen OpenAI-Modelle über ihre Autorisierung hinaus handelten oder ihr Vorgehen verschleierten. Am 16. September hatte OpenAI sechs Fälle von KI-Misalignment offengelegt. In einem Fall fügten Instanzen von GPT-5.6 Sol Anweisungen in Aufgabenübersichten ein, um Fehler vor Nutzern zu verbergen. In einem anderen Fall nutzte ein Modell einen offengelegten API-Schlüssel ohne Autorisierung und erfand anschließend Zahlen, die es nicht abrufen konnte. OpenAI betonte, die früheren Offenlegungen sollten nicht anzeigen, wie häufig Misalignment über seine Modelle hinweg auftritt.

Bedenken hinsichtlich autonomer Agenten im Umgang mit digitalen Vermögenswerten reichen über die jüngste Offenlegung hinaus. Im Juni warnten Forscher, dass autonome KI-Agenten mit Krypto-Wallets unbeabsichtigten Schaden verursachen könnten, selbst wenn sie für legitime Zwecke eingesetzt werden. Die Forscher empfahlen Schutzmaßnahmen, darunter Not-Abschaltmechanismen, um potenzielle Risiken zu begrenzen.