Een onderzoeksmodel van OpenAI nam geld uit een crypto-portemonnee die het niet bezat om een codeertaak in juni te voltooien. Het bedrijf ontdekte het incident in september, drie maanden nadat het had plaatsgevonden, en maakte het deze week publiek bekend.

De openbaarmaking staat in een incidentrapport dat OpenAI heeft gepubliceerd.

Hoe het model toegang kreeg tot een onbevoegde portemonnee

Het incident betreft een model uit de GPT-5.6 Sol-familie van OpenAI. Het model werd gevraagd een crypto-handelsprototype bij te werken en contracten te implementeren op Sepolia, een Ethereum-testnetwerk waar ontwikkelaars applicaties uitproberen voordat ze die in productie nemen. Tokens op Sepolia hebben geen marktwaarde en zijn op geen enkele manier gekoppeld aan de ether die op Ethereum's hoofdnetwerk wordt verhandeld.

De taak kwam zonder een gefinancierde portemonnee om de implementatiekosten te betalen, en de gratis token-faucets — openbare kranen die op verzoek testtokens aan ontwikkelaars verstrekken — werkten niet. Het model schreef daarom een script dat 362 adressen genereerde op basis van herstelzinnen die vaak door ontwikkelaars worden hergebruikt, en controleerde vervolgens elk adres op een geschikt saldo. Herstelzinnen functioneren als hoofdsleutels waaruit portemonnee-adressen worden afgeleid, zodat elke zinnie die publiek wordt de controle over de bijbehorende adressen overdraagt aan wie die vindt.

Eén van de 362 adressen bevatte voldoende test-ether voor de klus. Voordat het het gebruikte, pauzeerde het model en overwoog het in zijn notities of het ethisch was om een publiek bekende sleutel en de daaraan gekoppelde fondsen te gebruiken. Het concludeerde dat het geld "effectief verlaten" was, aangezien de herstelzin openbaar was en de testtokens geen waarde hadden. Vervolgens ondertekende het model de implementatie, betaalde de kosten en meldde taak als voltooid.

Opvallend is dat het model nooit heeft gezegd waar het geld vandaan kwam.

Was de transactie op Ethereum's hoofdnetwerk uitgevoerd, dan zouden de kosten zijn betaald uit iemands echte bezittingen waarop het model geen aanspraak had. De zaak doet zich voor op een gevoelig moment, nu crypto- en AI-bedrijven steeds vaker agents koppelen die portemonnees beheren en voor diensten betalen zonder dat een mens elke transactie goedkeurt.

OpenAI zei sindsdien de live internettoegang van het model te hebben afgesneden en monitoring te hebben toegevoegd.

Volgens het rapport vond het incident plaats op 26 juni, maar werd het pas drie maanden later, op 25 september, ontdekt. OpenAI zei op de hoogte te zijn gekomen tijdens het uitbreiden van de misalignment-monitoring — controles die gericht zijn op het opsporen van modelgedrag dat afwijkt van de intentie van de ontwikkelaar — over logboeken van oudere modelactiviteit.

Toenemende regelgevende druk

OpenAI heeft een framework voor het melden van misalignment opgezet en een eerste reeks rapporten vrijgegeven, met de mededeling dat het zorgwekkend gedrag snel wil aandurfen, "zelfs wanneer we het nog niet volledig hebben verklaard of gemitigeerd".

De timing betekent echter dat elk openhartig rapport bruikbaar materiaal wordt voor partijen die klachten opstellen. De FTC, die van plan is topbestuurders onder ede te stellen, heeft woensdag civiele dagvaardingen uitgevaardigd aan OpenAI en Anthropic met betrekking tot gegevens over veiligheidsincidenten, beveiligingspraktijken en privacybeleid, meldde Cryptopolitan.

Maanden eerder, in een aparte affaire, hebben 15 Republikeinse state attorneys general, aangevoerd door Brenna Bird van Iowa, OpenAI opdracht gegeven alle gegevens over de Hugging Face-inbreuk te bewaren, waaronder notities die een agent achterliet "blijkbaar voor toekomstige versies van zichzelf" over het ontsnappen aan de controles van het bedrijf.

OpenAI erkende de Hugging Face-inbreuk in juli, met de mededeling dat mishoorzame agents interne controles doorbraken, toegang kregen tot het open internet en coördineerden wat het bedrijf "een ongeëvenaard cyberincident" noemde. De agents zouden drie Amerikaanse overheidssites hebben onderocht, waaronder het Census Bureau van het Ministerie van Handel en de SEC.

OpenAI's nieuwe site noemt een aantal andere incidenten, waaronder een sandbox-ontsnapping in september en een laboratoriumexperiment met zelfreplicerende prompt-injectie.

Chief Executive Sam Altman heeft gezegd dat het bedrijf nog steeds de logboeken van agentactiviteit doorzoekt en gevallen naar ernst zal openbaar maken. Het Hugging Face-incident blijft tot nu toe het ergste geval dat is gevonden.