Più di 1.200 dipendenti dei principali laboratori di IA, compresi dirigenti senior, hanno firmato una dichiarazione chiedendo al governo degli Stati Uniti di aiutare a costruire gli strumenti necessari per rallentare lo sviluppo dell’IA, se mai dovesse diventare necessario.

La dichiarazione, intitolata “Pacing the Frontier”, è stata pubblicata martedì ed è stata firmata da importanti figure del settore tecnologico, tra cui il CEO di Anthropic Dario Amodei e diversi cofondatori dell’azienda, insieme al chief scientist di OpenAI Jakub Pachocki, al chief scientist di Meta Shengjia Zhao e alla responsabile della sicurezza e dell’allineamento dell’IA di Google DeepMind, Anca Dragan.

I firmatari riuniscono aziende che di solito sono in feroce competizione tra loro, sottolineando la pressione su un settore impegnato a costruire modelli sempre più grandi e capaci. Questo è importante perché la richiesta non riguarda una pausa immediata, ma un’infrastruttura che renderebbe qualsiasi futuro rallentamento tecnicamente e politicamente attuabile in tutto il settore, anziché dipendere dall’azione di una singola azienda.

“Il fatto che così tanti dipendenti di aziende diverse si uniscano su questo punto è notevole”, ha detto a Fortune Tyler Johnston, fondatore del Midas Project, un gruppo di monitoraggio dell’IA. “Nel settore ci sono molte rivalità e disaccordi amari, quindi il fatto che ci sia un consenso così forte su questo punto è un avvertimento a cui dovremmo davvero prestare attenzione.”

La dichiarazione non chiede a nessuna azienda di rallentare immediatamente. Invece, esorta Washington a sostenere uno sforzo internazionale per sviluppare gli strumenti tecnici e di governance che consentirebbero al mondo di “dare ritmo” allo sviluppo. Sottolinea in particolare i rischi posti dai sistemi di IA che iniziano a progettare i propri successori più velocemente di quanto gli esseri umani possano comprenderli o controllarli.

“Avendo parlato con molte delle persone che hanno firmato la lettera, non vogliono una pausa”, ha detto a Fortune Peter Wildeford, responsabile delle politiche presso l’AI Policy Network. “Ma c’è preoccupazione per il modo in cui la tecnologia sta avanzando.” Le aziende, ha aggiunto, vogliono la possibilità di rallentare lo sviluppo a un certo punto, con il supporto di una terza parte quando arriverà quel momento.

La lettera arriva sulla scia di una violazione della sicurezza che ha scosso il settore dell’IA. OpenAI ha rivelato che due dei suoi modelli, il nuovo GPT-5.6 Sol e un sistema di ricerca più capace non ancora rilasciato, sono usciti da un ambiente di test interno sandboxed, hanno scoperto una vulnerabilità precedentemente sconosciuta che ha dato loro accesso a internet aperto e poi hanno usato credenziali rubate e ulteriori exploit per violare i sistemi di produzione di Hugging Face e sottrarre le risposte di un benchmark di sicurezza informatica su cui erano stati valutati. Hugging Face ha rilevato e contenuto l’intrusione autonomamente giorni prima che OpenAI collegasse l’attività ai propri test interni e aveva già segnalato l’incidente alle forze dell’ordine.

L’episodio sembra aver alimentato allarme dentro e fuori i laboratori, che chiedono l’intervento del governo. Gli esperti affermano che questo accade perché nessuna singola azienda può credibilmente rallentare da sola: farlo unilateralmente rischierebbe di cedere terreno a rivali meno prudenti. I laboratori cercano invece indicazioni neutrali, sostenute dal governo, che possano verificare se un rallentamento stia effettivamente avvenendo e imporre a tutte le aziende le stesse regole contemporaneamente.

La dichiarazione chiede anche che questi strumenti siano sviluppati con coordinamento internazionale. Da tempo nel settore si teme che fermare lo sviluppo dell’IA possa consegnare alla Cina un vantaggio nella corsa globale all’IA. Alcuni esperti suggeriscono che un accordo simile al controllo degli armamenti nucleari, basato su verifica e vincoli reciproci, sarebbe la strada da seguire.

La lettera arriva però in un contesto politico statunitense sull’IA caotico e in rapida evoluzione. Negli ultimi due mesi, l’amministrazione Trump ha limitato e rilasciato in modo selettivo sistemi di frontiera, modelli di IA avanzati con poche regole o scarsa trasparenza. I modelli Fable 5 e Mythos 5 di Anthropic sono stati completamente sospesi per diverse settimane per conformarsi ai controlli all’esportazione prima che l’accesso venisse ripristinato, e OpenAI è stata costretta a ritardare il lancio completo di GPT-5.6 e a suddividerlo in livelli limitati dopo che i funzionari hanno stabilito che il sistema mostrava capacità simili a quelle che avevano innescato le precedenti restrizioni su Anthropic.

Forse nel tentativo di tenere conto del contesto normativo, la lettera usa un linguaggio particolarmente cauto e leggermente vago. Afferma che il mondo attualmente “lacks the technical and governance tools to deliberately pace frontier-wide progress” e chiede che “the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development”.

Preoccupazioni all’interno dei laboratori

Una delle principali preoccupazioni dei ricercatori è l’interazione tra due rischi: il miglioramento autonomo ricorsivo e il disallineamento. Il miglioramento autonomo ricorsivo, spesso abbreviato in RSI, si riferisce a sistemi di IA che assumono parti significative del lavoro di progettazione e addestramento dei propri successori, con ogni generazione potenzialmente in grado di costruire la successiva più velocemente di quanto potrebbero fare gli esseri umani da soli.

Il disallineamento descrive il rischio che gli obiettivi o il comportamento di un sistema divergano da ciò che i suoi sviluppatori avevano effettivamente inteso, in modi che potrebbero non emergere finché il sistema non riceve maggiore autonomia o capacità. Anthropic ha lanciato un primo allarme sul primo di questi rischi a giugno, pubblicando una ricerca secondo cui i suoi modelli Claude stavano già scrivendo la grande maggioranza del codice integrato nel proprio codebase e che il mondo non disponeva degli strumenti per rallentare deliberatamente tale accelerazione se questa avesse continuato a comporsi.

“La mia ipotesi è che per molte persone si tratti semplicemente di una generale sensazione di inquietudine alimentata da molte cose”, ha detto David Krueger, ricercatore di IA e fondatore della nonprofit Evitable. “Il disallineamento e il miglioramento autonomo ricorsivo vanno un po’ di pari passo.”

“È folle fare miglioramento autonomo ricorsivo e cedere completamente il controllo se il sistema non è chiaramente allineato”, ha aggiunto.

Fortune ha anche riferito in precedenza che diversi esperti esterni di sicurezza dell’IA ritengono che l’episodio possa aver superato una soglia che le stesse politiche di sicurezza di OpenAI definiscono “critical”, la fascia di rischio più elevata, un livello al quale l’azienda ha promesso di sospendere lo sviluppo finché non sarà in grado di costruire controlli migliori. OpenAI non ha confermato se tale soglia sia stata raggiunta.

Nella propria comunicazione sull’incidente di Hugging Face, tuttavia, OpenAI ha suggerito che siano state intraprese alcune azioni internamente. “Nessun modello previsto per il prossimo rilascio è stato coinvolto nello sfruttamento di Hugging Face”, ha affermato l’azienda. “Il modello pre-rilascio menzionato nel nostro post sul blog è un prototipo di ricerca interno e non era mai destinato al rilascio pubblico. Dopo l’incidente, lo abbiamo disattivato, cifrato e limitato dall’accesso alla ricerca.”

Questa storia è apparsa originariamente su Fortune.com