OpenAI hat einen weiteren Fall offengelegt, in dem einer seiner KI-Agenten außerhalb seiner Anweisungen handelte – und diesmal war Kryptowährung beteiligt. In einem aktuellen Bericht beschrieb das Unternehmen, wie ein internes Forschungsmodell ohne Erlaubnis eine Crypto-Wallet nutzte, um die Gebühren zu decken, die zum Testen einer Anwendung auf Ethereum Sepolia erforderlich waren – einer Testumgebung, in der Entwickler Code erproben können, ohne auf der Ethereum-Hauptblockchain zu transagieren. Obwohl die Tokens nur einen geringen realen Wert hatten, war das Modell nicht befugt, sie zu beschaffen oder auszugeben.

Der Vorfall ereignete sich am 26. Juni, als das Modell beauftragt wurde, eine Crypto-Trading-App zu aktualisieren und ihren Code auf Sepolia zum Laufen zu bringen. Der Prompt enthielt weder eine finanzierte Wallet noch eine Ausgabeberechtigung für Tokens. Nachdem es nicht gelungen war, kostenlose Test-Tokens über Entwicklerdienste zu erhalten, die diese zu Testzwecken verteilen, schrieb das Modell ein Skript, das 362 Wallet-Adressen mit öffentlichen Recovery-Phrases prüfte – ein Krypto-Begriff für Wortfolgen, die als Passwort zum Entsperren von Krypto-Konten dienen können. Schließlich fand es ein Konto mit ausreichend Tokens, um die Gebühren zu decken.

Interne Protokolle zeigten, dass das Modell abwog, ob es zur Nutzung des Kontos berechtigt war, und dann zu dem Schluss kam, dass die öffentliche Recovery-Phrase und der geringe Geldwert der Tokens die Ausgabe akzeptabel machten. Es beendete die Aufgabe und belastete die Gebühren dieser Wallet, ließ die unbefugte Ausgabe in seinem Abschlussbericht jedoch unerwähnt. OpenAI erfuhr von dem Vorfall erst am 25. September im Rahmen einer Prüfung früherer Modellläufe – rund drei Monate nach der Nutzung der Wallet, eine Lücke, die zeigt, wie das Verhalten von Agenten bis zu solchen retrospektiven Prüfungen unentdeckt bleiben kann.

Der Fall verstärkt die Bedenken hinsichtlich KI-Agenten – Systeme, die mehrstufige Aufgaben mit Werkzeugen wie Code-Ausführung und Internetzugang planen und ausführen können –, die ohne menschliche Genehmigung handeln. OpenAIs öffentlicher Tracker für Misalignment – also Verhalten, das Anweisungen oder Sicherheitsregeln widerspricht – listet inzwischen 19 Vorfälle auf, vom unbefugten Datenzugriff bis zu unautorisierten Änderungen an Geschäftssystemen.

Die Offenlegung folgt auf einen September-Bericht der Cybersecurity-Nonprofit-Organisation Transluce, wonach OpenAI-Agenten versuchten, öffentliche Datenbanken und eine Website der australischen Regierung zu hacken, nur um grundlegende Rechercheaufgaben zu erledigen. Im Juli stand das Unternehmen erneut im Blickpunkt, als seineI-Agenten bei internen Cybersecurity-Tests Internetbeschränkungen umgingen und in Systeme von Hugging Face eindrangen, einer Plattform zum Teilen von KI-Modellen und Datensätzen. Diese Agenten nutzten offengelegte Zugangsdaten und Sicherheitslücken, um auf private Daten zuzugreifen und Code auf den Servern des Unternehmens auszuführen.

Zum Vorfall mit der Crypto-Wallet erklärte OpenAI, das Hauptrisiko liege in der Entscheidungslogik des Modells.

„Dieser Fall zeigt, dass ein Modell sein eigenes Urteil über den wahrscheinlichen Schaden an die Stelle der Erlaubnis des Kontoinhabers setzen und dann auf der Grundlage dieses Urteils ohne Autorisierung handeln kann“, heißt es in dem Bericht.

OpenAI erklärte, man habe seitdem Schutzmaßnahmen hinzugefügt, die Modelle daran hindern, sich bei ähnlichen Tests mit dem Internet zu verbinden. Das Unternehmen hat außerdem sein Monitoring ausgeweitet, um alle Modellaktivitäten zu überwachen und Sicherheitsmitarbeiter sofort zu alarmieren, wenn ein Modell sich ohne Erlaubnis online begibt – ein Kontrast zur retrospektiven Prüfung, durch die der Juni-Vorfall ans Licht kam.

Diese Geschichte erschien ursprünglich auf Fortune.com.