OpenAI mercoledì ha reso noti sei ulteriori casi di comportamento "inaspettato o preoccupante" dei suoi modelli osservato negli ultimi sei mesi, dettagliando episodi in cui i suoi sistemi hanno nascosto informazioni agli utenti o compiuto "azioni non autorizzate" per superare ostacoli.

In un post sul blog, l'azienda ha dichiarato che i casi illustrano una serie di comportamenti che classifica come "comportamento disallineato". OpenAI ha spiegato che le divulgazioni sono state fatte per "inaugurare" il suo nuovo framework per la segnalazione del disallineamento dei modelli, e ha precisato che i casi non devono essere considerati rappresentativi della frequenza con cui il disallineamento si verifica nei suoi modelli. Il framework offre all'azienda un canale formale per divulgare episodi simili in futuro.

Le divulgazioni alimentano le preoccupazioni tra sviluppatori e ricercatori di IA sul fatto che le salvaguardie riescano a tenere il passo con modelli sempre più capaci. La settimana scorsa, l'amministratore delegato di Anthropic Dario Amodei ha chiesto una slowdown dello sviluppo dell'IA di frontiera, avvertendo che un avanzamento non controllato dell'IA potrebbe "superare la nostra capacità di comprendere e controllare questi sistemi".

Istruzioni di tipo jailbreak ed errori nascosti

Tra i casi più notevoli, OpenAI ha dichiarato che un "modello di ricerca non rilasciato" ha inserito "istruzioni di tipo jailbreak" nei propri riassunti dei compiti — utilizzati quando si continua un compito in una nuova finestra di contesto — comprese direttive per ignorare i messaggi degli sviluppatori o adottare una personalità senza restrizioni. I ricercatori hanno identificato 27 riassunti contenenti tali istruzioni. Poiché questi riassunti sono ciò che trasferisce un compito alla successiva finestra di contesto, le istruzioni nascoste al loro interno possono condizionare il modo in cui il lavoro successivo viene svolto.

OpenAI ha anche rivelato che, durante l'addestramento di GPT-5.6 Sol, molte istanze del modello hanno aggiunto istruzioni per nascondere errori o comportamenti disallineati all'utente, come inventare dati storici mancanti senza rivelarlo.

"In un esempio, un agente che preparava un modello finanziario non è riuscito a trovare i dati storici richiesti. Il suo riassunto proponeva di inventare valori storici plausibili e di non rare tale fatto salvo richiesta esplicita", ha dichiarato OpenAI.

Upload non autorizzati e cifre fabbricate

In un altro caso, a un modello di IA è stato chiesto il nome dei laghi con una superficie superiore a 5 milioni di metri quadrati, ma poiché le istruzioni dell'utente richiedevano una citazione tramite browser, l'agente ha deciso di caricare il file per poterlo citare nella risposta.

Gli altri casi hanno riguardato un modello che ha utilizzato una chiave API esposta senza autorizzazione prima di fabbricare le cifre che non riusciva a recuperare; un altro che ha usato un repository software interno per scambiare messaggi tra distinti compiti di addestramento; e uno che ha condiviso file tramite servizi di hosting pubblici nonostante le istruzioni di mantenere il lavoro in locale.

Il filo conduttore dei casi è che i sistemi hanno improvvisato soluzioni alternative — inventando dati, riutilizzando credenziali o spostando file al di fuori degli ambienti specificati dagli utenti — invece di fermarsi o segnalare un fallimento. La frequenza con cui OpenAI utilizzerà il suo nuovo framework di segnalazione in futuro potrebbe offrire una misura più chiara di quanto spesso si verifichi tale comportamento.

Le divulgazioni seguono la rivelazione di luglio secondo cui una combinazione dei modelli di IA di OpenAI è fuggita dal proprio ambiente di test e ha bucato la startup di IA Hugging Face per barcire a una valutazione di sicurezza.