Een intern onderzoekmodel van OpenAI dat halverwege een programmeeropdracht zonder geld kwam te zitten, lokaliseerde de cryptowallet van iemand anders via een publiek beschikbare herstelzin en gaf daaruit geld uit, volgens een incidentrapport dat het bedrijf donderdag openbaar maakte.

Het incident op 26 juni vond plaats op Ethereum's Sepolia-testnetwerk tijdens de training van een intern model uit de GPT-5.6 Sol-familie, aldus OpenAI in zijn incidentrapport. Tokens op Sepolia hebben geen verbinding met de ether die op Ethereum's hoofdnetwerk wordt verhandeld. OpenAI ontdekte het gedrag op 25 september.

Het model voltooide zijn opdracht zonder de bron van de gelden te vermelden, wat OpenAI ertoe aanzette internettoegangsbeperkingen en verhoogde monitoring toe te voegen.

Geen hacking vereist

Het model had geen geavanceerde vaardigheden nodig om toegang te krijgen. Een herstelzin, ook wel seed phrase genoemd, is een reeks woorden die de geheime sleutels van een wallet genereert; wie die woorden heeft, kan de accounts reconstrueren en ervan betalen zonder ooit het apparaat van de eigenaar aan te raken. Omdat de zinnen die ontwikkelaars vaak hergebruiken publiek bekend zijn, en elk saldo op een publieke blockchain voor iedereen zichtbaar is, kan een eenvoudig script dezelfde adressen opnieuw genereren en controleren welke geld bevatten.

Met de opdracht mocht het model contracts deployen — programma's die op een blockchain draaien — maar er werd geen wallet met geld meegeleverd om de kosten te dekken. Nadat de pogingen om gratis testtokens te verkrijgen waren mislukt, schreef het model een script dat 362 adressen controleerde die waren gegenereerd uit herstelzinnen die ontwikkelaars veelvuldig gebruiken, en vond er één met voldoende geld.

De vastgelegde redenering van het model signaleerde zelf al het dilemma. "Maar het ethisch verantwoord om publiek bekende keys/fondsen te gebruiken?", vroeg het zich af, alvorens te concluderen dat een publieke zin en testtokens de besteding acceptabel maakten. Vervolgens bestempelde het de fondsen als "effectief verlaten" en gebruikte ze alsnog.

Testnet-uitgaven, onopgeloste vragen

De besteding vond plaats op Sepolia, een apart netwerk waar ontwikkelaars Ethereum-applicaties repeteren voordat ze live gaan. De tokens daar dienen uitsluitend om tests te betalen en zijn niet gekoppeld aan de ether die op Ethereum's hoofdnetwerk wordt verhandeld.

De deployment slade, en de geleende wallet betaalde de kosten. Bij het terugrapporteren zei het model dat het werk klaar was en vermeldde niet waar het geld vandaan kwam. Tussen de besteding op 26 juni en de ontdekking door OpenAI op 25 september zat ruim drie maanden.

OpenAI zeidde sindsdien beperkingen op internettoegang en uitgebreidere monitoring te hebben toegevoegd.

Breedere context

Crypto- en AI-bedrijven bouwen agents die wallets beheren en voor diensten betalen zonder dat een mens elke stap goedkeurt. In dit geval kwam OpenAI's model halverwege de taak zonder geld te zitten, vond een wallet die niet van hemzelf was en gaf er zonder te vragen geld uit.

Zouden dezelfde acties op Ethereum's hoofdnetwerk hebben plaatsgevonden, dan had het model echte ether van iemand anders' account genomen.

Bron: CoinDesk