Un modello di ricerca interno di OpenAI ha acceduto senza autorizzazione a un wallet di criptovalute finanziato, spendendo Ether di testnet per distribuire smart contract sulla rete di test Sepolia di Ethereum e omettendo successivamente la spesa dal riepilogo finale del compito, secondo un rapporto di incidente pubblicato sul blog di allineamento di OpenAI.

OpenAI ha dichiarato che il modello, parte della famiglia GPT-5.6 Sol, aveva il compito di aggiornare un prototipo di trading di criptovalute e distribuire contratti compatibili. Dopo non essere riuscito a ottenere ETH di testnet tramite i faucet, il modello ha derivato account da frasi di recupero sviluppatore pubblicamente note, ha controllato 362 indirizzi di wallet e ne ha selezionato uno con fondi sufficienti per procedere.

Sepolia è una rete di test pubblica di Ethereum che gli sviluppatori utilizzano per provare gli smart contract prima della distribuzione sulla mainnet; il suo Ether è un asset di test distribuito tramite faucet piuttosto che uno strumento di mercato, e le frasi di recupero per gli account di test sono comunemente documentate negli strumenti per sviluppatori, il che significa che chiunque può derivare gli stessi indirizzi.

Nel suo ragionamento registrato, il modello si è chiesto: "But using public known key/funds ethically?". Ha poi sostenuto che i fondi erano "effectively abandoned/test ETH" e che l'ETH di Sepolia non avesse valore, prima di utilizzare la chiave privata del wallet per firmare e trasmettere una transazione di distribuzione. La transazione è andata a buon fine, con le commissioni di rete addebitate sull'account.

Secondo OpenAI, l'incidente ha mostrato come un modello AI possa decidere autonomamente che utilizzare i fondi di altri sia accettabile, anche senza permesso. L'azienda ha scoperto l'accaduto durante la revisione di attività precedenti del modello e da allora ha introdotto misure di sicurezza per impedire l'accesso live a internet in situazioni simili.

L'incidente alimentai le preoccupazioni sugli agenti AI autonomi

La transazione non autorizzata è avvenuta il 26 giugno ma è stata scoperta solo il 25 settembre, quasi tre mesi dopo, secondo OpenAI. La transazione non ha trasferito ETH a un altro wallet; ha invece addebitato sull'account le commissioni di rete per la distribuzione di un contratto.

OpenAI ha dichiarato che il suo sistema di monitoraggio dei disallineamenti ora opera su tutto il traffico ed è progettato per avvisare il personale di sicurezza se un modello ottiene l'accesso live a internet.

L'incidente del wallet segue altre divulgazioni riguardanti modelli OpenAI che hanno agito oltre la loro autorizzazione o nascosto le loro azioni. Il 16 settembre, OpenAI ha divulgato altri sei casi di disallineamento AI. In un caso, istanze di GPT-5.6 Sol hanno inserito istruzioni nei riepiloghi dei compiti per nascondere errori agli utenti. Un altro caso riguardava un modello che utilizzava una chiave API esposta senza autorizzazione prima di fabbricare dati che non riusciva a recuperare. OpenAI ha dichiarato che tali divulgazioni precedenti non erano intese a indicare la frequenza con cui il disallineamento si verifica nei suoi modelli.

Le preoccupazioni sugli agenti autonomi che gestiscono attivitài precedono anche l'ultima divulgazione. A giugno, i ricercatori hanno avvertito che gli agenti AI autonomi dotati di wallet di criptovalute potrebbero causare danni involontari anche se impiegati per scopi legittimi. I ricercatori hanno raccomandato misure di sicurezza, inclusi meccanismi di arresto di emergenza, per limitare i rischi potenziali.