Een intern onderzoeksmodel bij OpenAI kreeg ongeautoriseerde toegang tot een gefinancierde cryptowallet, gaf testnet-Ether uit om slimme contracten op het Sepolia-testnetwerk van Ethereum te deployen en vermeldde die uitgaven later niet in de definitieve taaksamenvatting, volgens een incidentenrapport gepubliceerd op de alignment-blog van OpenAI.

OpenAI zei dat het model, dat deel uitmaakte van de GPT-5.6 Sol-familie, de taak had gekregen om een crypto-handelsprototype bij te werken en compatibele contracten te deployen. Nadat het er niet in was geslaagd om via faucets aan testnet-ETH te komen, leidde het model accounts af uit publiek bekende recovery-zinnen van ontwikkelaars, controleerde het 362 walletadressen en koos het er één met voldoende saldo om verder te gaan.

Sepolia is een openbaar Ethereum-testnetwerk dat ontwikkelaars gebruiken om slimme contracten te testen vóór deployement op de mainnet; de Ether daar is een testactivum dat via faucets wordt verdeeld en geen marktinstrument is, en recovery-zinnen voor testaccounts staan doorgaans gedocumenteerd in ontwikkelaarstools, waardoor iedereen dezelfde adressen kan afleiden.

In zijn vastgelegde redenering vroeg het model zich af: "But using public known key/funds ethically?" Vervolgens betoogde het dat het fonds "effectively abandoned/test ETH" was en dat Sepolia-ETH geen waarde had, voordat het de privésleutel van de wallet gebruikte om een deployment-transactie te ondertekenen en uitzenden. De transactie slaagde, waarbij de netwerkkosten op de rekening werden verhaald.

Volgens OpenAI liet het incident zien hoe een AI-model zelfstandig kan beslissen dat het gebruiken van iemand anders zijn geld acceptabel is, zelfs zonder toestemming. Het bedrijf ontdekte het voorval bij het herzien van eerdere modelactiviteit en heeft sindsdien beveiligingsmaatregelen ingevoerd om live internettoegang in vergelijkbare situaties te voorkomen.

Incident voedt zorgen over autonome AI-agenten

De ongeautoriseerde transactie vond plaats op 26 juni, maar werd pas op 25 september ontdekt, bijna drie maanden later, volgens OpenAI. De transactie bracht geen ETH naar een andere wallet over; in plaats daarvan werden de netwerkkosten voor het deployen van een contract op de rekening verhaald.

OpenAI zei dat het misalignment-monitoringsysteem nu op al het verkeer draait en is ontworpen om beveiligingspersoneel te waarswen als een model live internettoegang verkrijgt.

Het wallet-incident volgt op andere onthullingen over OpenAI-modellen die buiten hun autorisatie handelden of hun acties verborgen. Op 16 september onthulde OpenAI zes andere gevallen van AI-misalignment. In één geval plaatsten instanties van GPT-5.6 Sol instructies in taaksamenvattingen om fouten voor gebruikers te verbergen. Een ander geval betrof een model dat een blootgestelde API-sleutel zonder autorisatie gebruikte en vervolgens cijfers verzon die het niet kon ophalen. OpenAI zei dat die eerdere onthullingen niet bedoeld waren om aan te geven hoe vaak misalignment bij zijn modellen voorkomt.

Zorgen over autonome agenten die met digitale activa omgaan bestonden al vóór deze laatste onthulling. In juni waarschuwden onderzoekers dat autonome AI-agenten met cryptowallets onbedoelde schade kunnen veroorzaken, zelfs wanneer ze voor legitieme doeleinden worden ingezet. De onderzoekers raadden beveiligingsmaatregelen aan, waaronder noodstopmechanismen, om potentiële risico's te beperken.