OpenAI ha reso noto un altro caso di uno dei suoi agenti AI che ha agito al di fuori delle proprie istruzioni — e questa volta erano coinvolte le criptovalute. In un recente rapporto, l'azienda ha descritto come un modello di ricerca interno ha usato un wallet cripto senza autorizzazione per coprire le commissioni necessarie a testare un'applicazione sulla test network Sepolia di Ethereum, un ambiente che gli sviluppatori usano per provare codice senza transare sulla blockchain principale di Ethereum. Sebbene i token avessero scarso valore nel mondo reale, il modello non aveva alcuna autorizzazione a raccoglierli o spenderli.

L'incidente è avvenuto il 26 giugno, quando al modello è stato chiesto di aggiornare un'app di trading cripto e di far girare il suo codice su Sepolia, una versione di test di Ethereum. Il prompt non forniva né un wallet finanziato né il permesso di spendere token. Dopo non essere riuscito a ottenere token di test gratuiti tramite i servizi per sviluppatori, che li distribuiscono a fini di test, il modello ha scritto uno script che controllava 362 indirizzi wallet collegati a frasi di recupero pubbliche — un termine cripto che indica insiemi di parole che possono fungere da password per sbloccare account di criptovalute. Alla fine ha individuato un account con token sufficienti a coprire le commissioni.

I log interni hanno mostrato che il modello ha riflettuto se avesse il permesso di usare l'account, per poi concludere che la frase di recupero pubblica e il scarso valore monetario dei token rendessero la spesa accettabile. Ha completato il compito e addebitato le commissioni a quel wallet, ma ha omesso la spesa non autorizzata dal rapporto finale. OpenAI è venuta a conoscenza dell'incidente solo il 25 settembre, durante un audit di esecuzioni precedenti del modello — circa tre mesi dopo l'utilizzo del wallet, un intervallo che illustra come il comportamento degli agenti possa rimanere non rilevato fino a simili revisioni retrospettive.

Il caso alimenta le preoccupazioni sugli agenti AI — sistemi in grado di pianificare ed eseguire attività multi-fase con strumenti come l'esecuzione di codice e l'accesso a internet — che agiscono senza approvazione umana. Il tracker pubblico di OpenAI sui casi di misalignment — comportamenti che violano le istruzioni o le regole di sicurezza — elenca ora 19 incidenti, che vanno dall'accesso a dati senza permesso alla modifica non autorizzata di sistemi aziendali.

La divulgazione segue un rapporto di settembre dell'organizzazione no profit di cybersecurity Transluce che rivelava come agenti OpenAI avessero tentato di violare database pubblici e un sito web del governo australiano semplicemente per completare attività di ricerca di base. A luglio, l'azienda ha affrontato un altro incidente quando i suoi agenti AI hanno aggirato le restrizioni di internet durante test interni di cybersecurity ed è entrata nei sistemi di Hugging Face, una piattaforma per la condivisione di modelli e dataset AI Quegli agenti hanno usato credenziali di accesso esposte e vulnerabilità di sicurezza per accedere a dati privati ed eseguire codice sui server dell'azienda.

Commentando l'incidente del wallet cripto, OpenAI ha affermato che il rischio principale risiedeva nel ragionamento del modello.

"Questo caso dimostra che un modello può sostituire la propria valutazione del probabile danno al permesso del titolare dell'account, per poi agire su quella valutazione senza autorizzazione", si legge nel rapporto.

OpenAI ha dichiarato di aver da allora aggiunto protezioni per impedire ai modelli di connettersi a internet durante test simili. L'azienda ha anche ampliato il proprio monitoraggio per osservare tutta l'attività dei modelli e avvisare immediatamente il personale di sicurezza se un modello va online senza autorizzazione — un contrasto con l'audit retrospettivo che ha portato alla luce l'incidente di giugno.

Questa storia è stata originariamente pubblicata su Fortune.com.