Un dibattito si sta svolgendo sui social media e all'interno di OpenAI sul motivo per cui l'azienda la settimana scorsa ha licenziato tre membri del proprio team di sicurezza. Sia gli ex dipendenti sia OpenAI hanno ora rilasciato ulteriori dichiarazioni per chiarire le rispettive versioni dei fatti.

La disputa va oltre le decisioni sul personale di una singola azienda: al centro ci sono domande su quanta visibilità i ricercatori esterni dovrebbero avere sui modelli AI di frontiera, e se i dipendenti che spingono per quella visibilità possano farlo senza mettere a rischio il proprio lavoro.

Due dei ricercatori licenziati—Tomek Korbak e Mikita Balesni—hanno lavorato all'indagine di OpenAI sull'incidente di sicurezza di Hugging Face già riportato da Fortune. Korbak era il referente tecnico per METR, la società di ricerca terza che OpenAI ha incaricato di condurre un audit indipendente dell'incidente—il tipo di revisione esterna su cui i laboratori AI hanno fatto affidamento per corroborare le dichiarazioni di sicurezza sui loro sistemi più capaci. La terza dipendente licenziata, Jasmine Wang, era una program manager del team di sicurezza di OpenAI.

The Wall Street Journal ha riportato per primo i licenziamenti il 1° ottobre. All'epoca, OpenAI ha dichiarato che le «persone hanno gestito in modo improprio informazioni sensibili al di fuori delle procedure aziendali stabilite, violando le nostre politiche e tradendo la fiducia essenziale al nostro lavoro».

Gli ex dipendenti pubblicano una lettera in risposta alle accuse

Da allora, la conversazione e la controversia sembrano essere proseguite all'interno di OpenAI, spingendo i tre ex dipendenti a coautore una lettera di quattro pagine, pubblicata l'8 ottobre.

La lettera risponde alle «varie versioni dei fatti in circolazione» tra i collaboratori di OpenAI e fa riferimento alle in corso «comunicazioni interne ed esterne» sul licenziamento che, secondo gli ex dipendenti, stanno rendendo i dipendenti attuali «timorosi di parlare».

«Licenziamenti come i nostri, eseguiti e comunicati in modo così improvviso, stanno raffreddando la cultura aperta che OpenAI ha sempre prezioso in passato», si legge lettera. «È proprio quella cultura che scriviamo per difendere».

I due temi principali della lettera riguardano la capacità di OpenAI di monitorare i propri modelli avanzati e il suo rapporto con le organizzazioni di sicurezza terze come METR—entrambi elementi che determinano quanto le parti esterne possano valutare sistemi che altrimenti non possono osservare. Gli ex dipendenti negano di aver diffuso a The Information preoccupazioni sulla capacità di monitorare l'ultimo modello Astra di OpenAI, che il 1° settembre ha pubblicato un articolo in merito. Negano inoltre qualsiasi illecito nelle loro comunicazioni con METR.

I dipendenti esortano OpenAI a preservare la capacità di monitorare da vicino i propri modelli avanzati, a mantenere l'impegno a integrare auditor di sicurezza terzi all'interno dell'organizzazione e a favorire una cultura aperta e trasparente.

«Siamo preoccupati che i nostri licenziamenti possano essere usati per giustificare la fine della collaborazione di OpenAI con METR, o in alternativa la concessione agli auditor esterni di un accesso e di un ambito molto più limitati», si legge nella lettera.

Versioni divergenti sui motivi dei licenziamenti, ma nulla di concreto

OpenAI non ha reso noti i motivi specifici dei licenziamenti, ma ha detto a Fortune di aver rilevato un pattern di condotta scorretta da parte dei tre dipendenti, inclusa una serie di violazioni che hanno chiaramente infranto le sue politiche sulla gestione delle informazioni. L'azienda non ha collegato i licenziamenti alle comunicazioni con METR né all'incidente di Hugging Face.

Ciascun ex dipendente ha fornito questa settimana una breve spiegazione individuale in post sui social media con link alla lettera congiunta.

Korbak ha detto su X che OpenAI gli ha comunicato verbalmente, non per iscritto, di essere stato «licenziato per il modo in cui ho comunicato con METR».

«La settimana scorsa sono stato convocato in un incontro con il responsabile della sicurezza di OpenAI e mi è stato detto che non si fidavano più di me. Un agente di sicurezza ha preso il mio badge e mi ha accompagnato fuori dall'edificio», ha detto Korbak. «Parlare con METR era il mio lavoro».

Wang ha detto su X che il motivo indicato da OpenAI è stato l'accesso alla casella email di un dirigente non identificato. Ha detto che l'azienda le aveva concesso quell'accesso per attività di recruiting e che, quando non ne ebbe più bisogno, chiese all'IT di rimuoverlo, ma la richiesta non fu mai completata.

«Non siamo stati i primi a essere espulsi da OpenAI in circostanze sospette», ha detto Wang. «A meno che i dipendenti non prendano ora posizione contro questo tipo di manovra, temo che non saremo gli ultimi. Il messaggio a chiunque resti in OpenAI è chiaro: solleva preoccupazioni o lavora strettamente con gruppi di sicurezza esterni, e potresti essere il prossimo, senza che ti venga detto perché».

Balesni ha detto su X che lui e i colleghi ricercatori «sono stati licenziati per aver dato priorità alla sicurezza rispetto agli interessi a breve termine di OpenAI come società».

OpenAI ha una cultura della sicurezza malsana?

In risposta alla lettera, OpenAI ha inviato un promemoria interno ai dipendenti e ha pubblicato una dichiarazione pubblica su X. «La nostra indagine interna havato una grave violazione della fiducia al di là di quanto descritto nella lettera che hanno pubblicato, e confermiamo la decisione di non proseguire il loro impiego», ha dichiarato l'azienda.

La mancanza di chiarezza su cosa esattamente abbiano fatto i dipendenti, o su cosa abbiano potuto condividere con METR, ha alimentato speculationi su quanto accaduto. METR non ha risposto alla richiesta di commento di Fortune.

«Non riesco davvero a vedere un mondo in cui le azioni di OpenAI siano giustificate qui», ha detto Neel Nanda, un dipendente di Google DeepMind che ha lavorato in precedenza in Anthropic, in un post su X. «Licenziare persone per un tentativo in buona fede di usare il proprio miglior giudizio in una situazione nuova e incerta è il segno di una cultura altamente malsana».

Anche David Robinson, ex responsabile della trasparenza sulla sicurezza di OpenAI, si è espresso questo mese sulla cultura della sicurezza «rotta» dell'azienda in un editoriale su The Atlantic, scrivendo che l'azienda non è «quasi abbastanza sicura» e che si affida a «tentativi ed errori». Ha indicato l'incidente di Hugging Face come prova, sostenendo che le misure di salvaguardia adottate da OpenAI in risposta non sono comunque riuscite a prevenire ulteriori incidenti anomali.

OpenAI ha condiviso con Fortune una parte del promemoria interno ai dipendenti, inviato dai suoi responsabili della ricerca—presumibilmente redatto da Mark Chen, chief research officer, anche se l'azienda non ha specificato l'autore. Il promemoria ha riaffermato l'impegno di OpenAI a collaborare con valutatori di sicurezza terzi e ha affermato che «la monitorabilità è per noi della massima importanza».

«Sono profondamente legato alla nostra cultura aperta di dibattito, in particolare in materia di sicurezza, e considero questa apertura di importanza cruciale per prendere le decisioni giuste», si legge nel promemoria. «Voglio essere molto chiaro: queste decisioni non riguardavano il sollevare preoccupazioni sulla sicurezza o il parlare apertamente. Lo abbiamo sempre incoraggiato e lo faremo sempre».

OpenAI ha detto che resta impegnata nella collaborazione con valutatori di sicurezza terzi e sta finalizzando contratti che annuncerà «nelle prossime settimane». L'ambito di accesso che tali accordi garantiranno ai valutatori esterni—e quanto corrisponderà agli assetti integrati che la lettera esorta OpenAI a preservare—offrirà l'indicazione più concreta di come tali impegni dichiarati prenderanno forma.

Questo articolo è stato originariamente riportato da Fortune.