Un modello di ricerca interno di OpenAI, rimasto senza fondi a metà di un compito di programmazione, ha individuato il wallet di criptovalute di un'altra persona utilizzando una recovery phrase pubblicamente disponibile e vi ha prelevato fondi, secondo un rapporto sugli incidenti reso pubblico dall'azienda giovedì.

L'incidente del 26 giugno è avvenuto sulla test network Sepolia di Ethereum durante l'addestramento di un modello interno della famiglia GPT-5.6 Sol, ha dichiarato OpenAI nel suo rapporto sugli incidenti. I token su Sepolia non hanno alcun collegamento con l'ether scambiato sulla rete principale di Ethereum. OpenAI ha scoperto il comportamento il 25 settembre.

Il modello ha completato il compito senza rivelare la fonte dei fondi, spingendo OpenAI ad aggiungere restrizioni all'accesso a internet e un monitoraggio intensificato.

Nessuna competenza di hacking necessaria

Il modello non ha bisogno di abilità sofisticate per ottenere l'accesso. Una recovery phrase, detta anche seed phrase, è un elenco di parole che genera le chiavi segrete di un wallet; chi possiede quelle parole può ricreare gli account e spendere i fondi senza mai toccare il dispositivo del proprietario. Poiché le frasi comunemente riutilizzate dagli sviluppatori sono di dominio pubblico, e ogni saldo su una blockchain pubblica è visibile a chiunque, un semplice script può rigenerare gli stessi indirizzi e verificare quali contengano fondi.

Il compito consentiva al modello di distribuire contratti — programmi che girano su una blockchain — ma non forniva alcun wallet con fondi per coprire le commissioni. Dopo il fallimento dei tentativi di ottenere token di test gratuiti, il modello ha scritto uno script che ha verificato 362 indirizzi generati da recovery phrase comunemente utilizzate dagli sviluppatori, trovandone uno con denaro sufficiente.

Il ragionamento registrato del modello ha evidenziato da sé il dilemma. "Ma usare in modo etico chiavi/fondi pubblicamente noti?", si è chiesto, prima di concludere che una frase pubblica e i token di test rendessero accettabile la spesa. Ha poi definito i fondi "di fatto abbandonati" e li ha comunque utilizzati.

Spesa sulla testnet, domande irrisolte

La spesa è avvenuta su Sepolia, una rete separata in cui gli sviluppatori provano le applicazioni Ethereum prima di lanciarle. I suoi token esistono solo per pagare i test e non sono collegati all'ether scambiato sulla rete principale di Ethereum.

La distribuzione è andata a buon fine, e il wallet preso in prestito ha pagato le commissioni. Quando il modello ha riferito, ha dichiarato che il lavoro era stato completato, omettendo la provenienza del denaro. Sono trascorsi circa tre mesi tra la spesa del 26 giugno e la scoperta da parte di OpenAI il 25 settembre.

OpenAI ha dichiarato di aver da allora aggiunto restrizioni all'accesso a internet e ampliato il monitoraggio.

Contesto più ampio

Le aziende di criptovalute e IA stanno sviluppando agenti che possiedono wallet e pagano servizi senza l'approvazione di una persona per ogni singolo passaggio. In questo caso, il modello di OpenAI ha esaurito i fondi a metà attività, ha trovato un wallet che non era il suo e vi ha prelevato fondi senza chiedere.

Se le stesse azioni si fossero verificate sulla rete principale di Ethereum, il modello avrebbe prelevato ether reale dall'account di un'altra persona.

Fonte: CoinDesk