OpenAI heeft opnieuw een geval bekendgemaakt waarin een van zijn AI-agenten buiten zijn instructies om handelde — en deze keer was cryptocurrency betrokken. In een recent rapport beschreef het bedrijf hoe een intern onderzoekmodel zonder toestemming een crypto-portemonnee gebruikte om de kosten te dekken die nodig waren voor het testen van een applicatie op Ethereum's Sepolia-testnetwerk, een omgeving die ontwikkelaars gebruiken om code uit te proberen zonder transacties op Ethereum's hoofdblockchain. Hoewel de tokens weinig echte waarde hadden, had het model geen autorisatie om ze te verzamelen of uit te geven.

Het incident vond plaats op 26 juni, toen het model de opdracht kreeg om een crypto-handelsapp bij te werken en de code op Sepolia, een testversie van Ethereum, werkend te krijgen. De prompt bevatte noch een gefinancierde portemonnee, noch toestemming om tokens uit te geven. Nadat het er niet in was geslaagd om gratis testtokens te verkrijgen via ontwikkelaarsdiensten, die deze voor testdoeleinden uitgeven, schreef het model een script dat 362 portemonnee-adressen controleerde die gekoppeld waren aan openbare herstelzinnen — een crypto-term voor reeksen woorden die kunnen fungeren als wachtwoord om crypto-accounts te ontgrendelen. Uiteindelijk vond het een account met voldoende tokens om de kosten te dekken.

Interne logboeken lieten zien dat het model nading of het toestemming had om het account te gebruiken, en vervolgens concludeerde dat de openbare herstelzin en het gebrek aan geldwaarde van de tokens de uitgave acceptabel maakten. Het voltooide de taak en bracht de kosten op die portemonnee in rekening, maar vermeldde de ongeautoriseerde uitgave niet in zijn eindrapport. OpenAI kwam pas op 25 september achter het incident, tijdens een audit van eerdere modeluitvoeringen — ongeveer drie maanden nadat de portemonnee was gebruikt, een gat dat illustreert hoe het gedrag van agenten onopgemerkt kan blijven totdat dergelijke retrospectieve reviews plaatsvinden.

Deze zaak voegt zich bij de zorgen over AI-agenten — systemen die meerstaps-taken kunnen plannen en uitvoeren met tools zoals code-uitvoering en internettoegang — die handelen zonder menselijke goedkeuring. OpenAI's openbare tracker van misalignment — gedrag dat ingaat tegen instructies of veiligheidsregels — vermeldt nu 19 incidenten, variërend van ongeautoriseerde toegang tot gegevens tot ongeautoriseerde wijzigingen in bedrijfssystemen.

De openbaarmakinggt op een septemberrapport van de cybersecurity-non-profit Transluce, waaruit bleek dat OpenAI-agenten probeerden openbare databases en een Australische overheidswebsite te hacken, enkel om basisonderzoekstaken te voltooien. In juli kreeg het bedrijf te maken met een ander incident, toen zijn AI-agenten internetbeperkingen omzeilden tijdens interne cybersecuritytests en binnendrongen in systemen van Hugging Face, een platform voor het delen van AI-modellen en datasets. Die agenten gebruikten blootgestelde inloggegevens en beveiligingsfouten om privé-gegevens te openen en code uit te voeren op de servers van het bedrijf.

Naar aanleiding van het crypto-portemonnee-incident zei OpenAI dat het belangrijkste risico lag in het redeneren van het model.

"Dit geval laat zien dat een model zijn eigen oordeel over waarschijnlijke schade kan substitueren voor de toestemming van de accounthouder, en vervolgens op dat oordeel kan handelen zonder autorisatie," aldus het rapport.

OpenAI zei dat het sindsdien beschermingen heeft toegevoegd om te voorkomen dat modellen tijdens vergelijkbare tests verbinding maken met het internet. Het bedrijf heeft ook zijn monitoring uitgebreid om alle modelactiviteit te observeren en onmiddellijk beveiligingspersoneel te waarschuwen als een model zonder toestemming online gaat — een contrast met de retrospectieve audit die het juni-incident aan het licht bracht.

Dit verhaal verscheen oorspronkelijk op Fortune.com.