Tre ricercatori per la sicurezza di OpenAI che hanno perso il lavoro la settimana scorsa hanno pubblicato una lettera aperta in cui accusano l'azienda di anteporre il profitto alla sicurezza.

I ricercatori—Jasmine Wang, Tomek Korbak e Mikita Balesni—sono stati licenziati da OpenAI, secondo cui hanno condiviso materiale riservato al di fuori dell'azienda. I tre sostengono di stare semplicemente svolgendo il loro lavoro.

Cosa è successo e quando

I licenziamenti sono avvenuti il 1° ottobre 2026 o in quelle date. OpenAI ha citato violazioni delle politiche aziendali sulle informazioni sensibili.

Un'indagine interna avrebbe concluso che i tre hanno trasmesso materiali riservati a un'organizzazione esterna per la sicurezza dell'IA. I ricercatori hanno respinto questa ricostruzione, sostenendo che la loro condotta rientrava nelle loro responsabilità professionali.

Questa difesa ha un certo peso considerato il precedente ruolo di Korbak. In passato è stato il referente di OpenAI presso METR e Redwood Research, due gruppi esterni per la sicurezza. Quando parte del lavoro consiste nel dialogare con ricercatori esterni per la sicurezza, il confine tra "collaborazione" e "perdita di dati" può sbiadire rapidamente.

L'8 ottobre i tre hanno inviato una lettera al consiglio di amministrazione di OpenAI e alle sue commissioni per la sicurezza. La lettera è stata poi pubblicata sul sito personale di Balesni.

L'avvertimento centrale della lettera riguarda il monitoraggio della "catena di pensiero". I modelli di IA avanzati possono produrre una traccia di ragionamento intermedio prima di arrivare a un risultato, e i ricercatori per la sicurezza osservano quella traccia per individuare segnali che un modello stia facendo qualcosa che non dovrebbe. La lettera evidenzia i potenziali rischi nel caso in cui tale capacità di monitoraggio venga persa.

I ricercatori hanno inoltre sottolineato l'ampia incertezza nel settore su come costruire e distribuire in modo sicuro modelli che operano al di là della supervisione umana. La loro soluzione proposta è stata duplice: una collaborazione a livello di settore sul monitoraggio dei modelli e l'introduzione di revisori indipendenti per la sicurezza.

La risposta di OpenAI

OpenAI ha tracciato una netta linea di demarcazione tra la lettera e i licenziamenti. L'azienda ha affermato che i licenziamenti non erano collegati alla promozione della sicurezza da parte dei ricercatori. È andata oltre, dichiarando di concordare con le raccomandazioni della lettera. Secondo OpenAI, i licenziamenti erano necessari a causa di violazioni della fiducia.

Un'emorragia di uscite legate alla sicurezza

I licenziamenti non sono avvenuti nel vuoto. Pochi giorni prima, David Robinson si era dimesso dal ruolo di responsabile della trasparenza sulla sicurezza di OpenAI. Robinson aveva espresso critiche alla cultura interna dell'azienda, sollevando preoccupazioni su come OpenAI bilanci il rapido progresso tecnico con adeguate misure di sicurezza.

C'è anche una storia precedente. Nel 2024, OpenAI aveva licenziato ricercatori per violazioni simili, in un contesto di continue preoccupazioni sulla sicurezza. L'azienda ha inoltre affrontato critiche pubbliche alle sue pratiche di sicurezza, compresi recenti incidenti di sicurezza informatica.

Cosa significa

Per il settore dell'IA in generale, la sostanza della lettera conta più della vicenda di persona. Il monitoraggio della catena di pensiero è una delle poche finestre che i ricercatori hanno attualmente su come i modelli avanzati arrivano alle loro conclusioni, e la richiesta di standard di monitoraggio condivisi suggerisce che gli autori vedano la questione come un problema collettivo che nessuna singola azienda può risolvere da sola.

C'è anche una tensione strutturale da tenere d'occhio. I laboratori vogliono una validazione esterna del loro lavoro sulla sicurezza, il che richiede la condivisione delle informazioni. Vogliono anche proteggere la ricerca proprietaria, il che richiede di tenerla stretta. Il licenziamento di un ex referente presso gruppi esterni per la sicurezza, con l'accusa di aver condiviso materiali all'esterno, si colloca esattamente su quella linea di frattura.

I prossimi segnali da osservare sono abbastanza concreti: se OpenAI annuncerà un accordo formale con revisori indipendenti; se altri laboratori risponderanno pubblicamente alla richiesta della lettera di una collaborazione sul monitoraggio dei modelli; e se altro personale dedicato alla sicurezza seguirà Robinson e i tre ricercatori verso l'uscita.