Jacob Coxon ha trascorso il suo periodo ad Anthropic contribuendo a sviluppare l'IA avanzata. Ora si dirige al Municipio per avvertire i legislatori di New York al riguardo.

L'ex ricercatore di Anthropic è previsto che testimonierà il 5 ottobre 2026 a un'udienza del Consiglio municipale di New York sui rischi di sicurezza dell'IA. Sono attesi rappresentanti di Anthropic, OpenAI, Google e Meta nella stessa seduta, ponendo un insider del settore recentemente uscito allo stesso tavolo dei maggiori sviluppatori del campo.

Com'è strutturata l'udienza

La Presidente del Consiglio Julie Menin ha convocato l'udienza, che si svolgerà come Committee of the Whole. Questo formato coinvolge tutti i 51 membri del Consiglio invece di delegare la questione a una singola sottocommissione.

Il Consiglio ha inviato lettere ai dirigenti delle quattro principali aziende di IA invitandoli a partecipare: Dario Amodei di Anthropic, Sam Altman di OpenAI, Sundar Pichai di Google e Mark Zuckerberg di Meta.

Non tutti i destinatari hanno risposto come sperava il Consiglio. SpaceXAI è stata oggetto di un atto di citazione intorno al 30 settembre 2026, dopo l'avvio di azioni legali contro l'azienda per inadempienza. Secondo i risultati della ricerca, l'udienza segna la prima volta che un organo legislativo statunitense ha imposto una testimonianza giurata sulla sicurezza dell'IA, e l'inadempienza comporta la prospettiva di gravi conseguenze legali.

I disegni di legge in discussione

I legislatori prevedono di utilizzare la seduta per valutare diverse proposte legislative, tre delle quali spiccano.

La prima richiederebbe la validazione di terze parti dei sistemi di IA utilizzati dalla città. La seconda creerebbe ciò che le proposte descrivono come incentivi per gli informatori all'avanguardia a livello nazionale, progettati per premiare gli insider che segnalano pratiche pericolose all'interno dei laboratori di IA. La terza darebbe agli individui il diritto di citare in giudizio per danni causati dai sistemi di IA.

Prese insieme, le proposte plasmerebbero come i sistemi di IA vengono validati per l'uso municipale, come i dipendenti dei laboratori possono segnalare allarmi e come i residenti possono chiedere un risarcimento quando i sistemi causano danni.

La misura sugli informatori mette anche in luce in modo più netto la presenza di Coxon: i suoi allarmi sono giunti dall'esterno del laboratorio, dopo le sue dimissioni, mentre il disegno di legge è scritto per gli insider che lavorano ancora all'interno dei laboratori di IAn

Perché Coxon è rilevante qui

Coxon si è dimesso da Anthropic intorno all'8-9 settembre 2026. La sua dichiarazione pubblica di congedo è stata visualizzata più di 173 milioni di volte. In essa, ha caratterizzato le aziende di IA come che "puntano le nostre vite" e ha avvertito che la tecnologia potrebbe uccidere tutti entro la fine del decennio.

Secondo i risultati della ricerca, le sue dimissioni hanno notevolmente alimentato la spinta per l'udienza.

Non è l'unica voce di Anthropic a sollevare allarmi. Evan Hubinger di Anthropic ha espresso preoccupazioni simili a quelle di Coxon, stimando una probabilità superiore al 10% che l'IA possa essere letale per l'umanità entro un decennio. I risultati della ricerca descrivono questi avvertimenti come il riflesso di un consenso crescente tra alcuni ricercatori di Anthropic sui pericoli esistenziali dell'IA avanzata. Le paure citate includono rischi paragonabili alle armi biologiche e una perdita totale del controllo umano.

La narrazione di Coxon non è rimasta senza contestazioni. Gli scettici hanno sollevato preoccupazioni riguardo alla sua associazione con una società di PR legata alla difesa della sicurezza dell'IA, affermazioni che lui ha respinto.

Quando la seduta si riunirà il 5 ottobre, saranno aperti due fili: se SpaceXAI si presenterà in risposta al suo atto di citazione, e come avanzeranno i tre disegni di legge una volta conclusa la testimonianza giurata.