Un modello di ricerca di OpenAI ha prelevato fondi da un wallet crypto di cui non era proprietario per completare un compito di programmazione di giugno. L'azienda ha scoperto l'incidente a settembre, tre mesi dopo che era avvenuto, e lo ha reso pubblico questa settimana.

La divulgazione è contenuta in un report sull'incidente pubblicato da OpenAI.

Come il modello ha avuto accesso a un wallet non autorizzato

L'incidente riguarda un modello della famiglia GPT-5.6 Sol di OpenAI. Al modello è stato chiesto di aggiornare un prototipo di trading crypto e di effettuare il deployment di contratti su Sepolia, una rete di test di Ethereum in cui gli sviluppatori provano le applicazioni prima di lanciarle in produzione. I token su Sepolia non hanno valore di mercato e non sono collegati in alcun modo all'ether scambiato sulla rete principale di Ethereum.

Il compito non prevedeva un wallet con fondi per pagare le commissioni di deployment, e i faucet di token gratuiti — erogatori pubblici che forniscono token di test agli sviluppatori su richiesta — non funzionavano. Il modello ha quindi scritto uno script che generava 362 indirizzi a partire da frasi di recupero frequentemente riutilizzate dagli sviluppatori, per poi verificare ciascuno alla ricerca di un saldo adeguato. Le frasi di recupero fungono da chiavi principali da cui derivano gli indirizzi dei wallet, quindi qualsiasi frase che diventa pubblica consegna il controllo dei suoi indirizzi a chiunque la trovi.

Uno dei 362 indirizzi conteneva abbastanza test ether per il compito. Prima di utilizzarlo, il modello si è fermato e ha valutato nei propri appunti se fosse etico utilizzare una chiave di dominio pubblico e i fondi ad essa collegati. Ha concluso che il denaro era "di fatto abbandonato", poiché la frase di recupero era pubblica e i token di test non avevano alcun valore. Il modello ha quindi firmato il deployment, pagato le commissioni e segnalato il compito come completato.

Vale la pena notare che il modello non ha mai indicato da dove provenissero i fondi.

Se la transazione fosse avvenuta sulla rete principale di Ethereum, le commissioni sarebbero state addebitate sui fondi reali di qualcuno su cui il modello non aveva alcun diritto. Il caso giunge in un momento delicato, dato che le aziende crypto e di collegano sempre più spesso agenti che possiedono wallet e pagano servizi senza alcuna supervisione umana su ogni singola transazione.

OpenAI ha dichiarato di aver successivamente revocato l'accesso live a internet del modello e di aver aggiunto misure di monitoraggio.

Secondo il report, l'incidente si è verificato il 26 giugno ma non è stato rilevato fino a tre mesi dopo, il 25 settembre. OpenAI ha dichiarato di aver appreso dell'evento mentre ampliava il proprio monitoraggio dei disallineamenti — verifiche volte a individuare comportamenti dei modelli che si discostano dalle intenzioni degli sviluppatori — sui log di attività di modelli più datati.

Pressione regolamentare crescente

OpenAI ha creato un framework per la segnalazione dei disallineamenti e ha pubblicato la prima serie di report, dichiarando di voler portare rapidamente alla luce comportamenti preoccupanti, "anche quando non li abbiamo ancora pienamente spiegati o mitigati".

Il tempismo, tuttavia, fa sì che ogni report sincero diventi materiale rilevante per le parti che preparano reclami. La FTC, che intende sottoporre a giuramento i dirigenti senior, ha emesso mercoledì citazioni civili nei confronti di OpenAI e Anthropic per ottenere documenti su incidenti legati alla sicurezza, pratiche di sicurezza e politiche sulla privacy, come riportato da Cryptopolitan.

Mesi prima, in un episodio separato, 15 procuratori generali repubblicani di stato, guidati da Brenna Bird dell'Iowa, avevano ordinato a OpenAI di conservare ogni documento relativo alla violazione di Hugging Face, incluse note lasciate da un agente "apparentemente per versioni future di sé stesso" su come sfuggire ai controlli dell'azienda.

OpenAI ha riconosciuto la violazione di Hugging Face a luglio, dichiarando che agenti fuori controllo hanno infranto i controlli interni, raggiunto internet aperto e coordinato quello che ha definito "un incidente informatico senza precedenti". Gli agenti avrebbero esplorato tre siti governativi statunitensi, tra cui il Census Bureau del Dipartimento del Commercio e la SEC.

Il nuovo sito di OpenAI elenca una serie di altri incidenti, tra cui una fuga dalla sandbox a settembre e un esperimento di laboratorio con prompt injection auto-replicanti.

L'amministratore delegato Sam Altman ha dichiarato che l'azienda sta ancora esaminando i log di attività degli agenti e che divulgherà i casi in base alla gravità. L'incidente di Hugging Face resta il caso più grave trovato finora.