Le dimissioni di un ricercatore da una delle più importanti aziende di intelligenza artificiale al mondo, seguite dagli avvertimenti secondo cui la tecnologia potrebbe spazzare via l’umanità entro un decennio, sembrano aver accelerato l’azione del Congresso sulla sicurezza dell’IA.

Le dimissioni di Jacob Coxon da Anthropic l’8 settembre 2026 hanno generato un impulso legislativo a favore di norme federali vincolanti, dopo anni di documenti accademici e discussioni durante conferenze che avevano prodotto risultati limitati. Nei giorni successivi, più di 20 membri del Congresso hanno chiesto pubblicamente una supervisione più rigorosa. Allo stesso tempo, un gruppo bipartisan di senatori sta portando avanti una proposta di legge che imporrebbe un “obbligo di diligenza” legale agli sviluppatori di potenti modelli di IA. La proposta trasferirebbe le principali misure di sicurezza dagli impegni volontari delle aziende a obblighi sostenuti dalla legge.

Il disegno di legge e i suoi sostenitori

I senatori Amy Klobuchar, John Thune e Ted Cruz guidano l’iniziativa. La legislazione proposta trasformerebbe gli impegni volontari sulla sicurezza assunti dalle aziende di IA in requisiti legali vincolanti.

Le disposizioni centrali del disegno di legge richiederebbero che i sistemi avanzati di IA siano sottoposti a test di sicurezza prima del rilascio. Sarebbero inoltre obbligatori audit indipendenti condotti da soggetti terzi e una reportistica standardizzata da parte degli sviluppatori. La proposta conferirebbe anche al governo l’autorità di intervenire e bloccare il rilascio di modelli di IA considerati pericolosi. Queste disposizioni renderebbero i test, la revisione esterna e la divulgazione condizioni essenziali per il rilascio dei sistemi più potenti.

In base alle norme proposte, le aziende che sviluppano modelli di IA frontier avrebbero un obbligo formale di diligenza. Potrebbero affrontare conseguenze legali se i loro sistemi causassero danni e le aziende non avessero adottato precauzioni ragionevoli.

OpenAI ha sostenuto pubblicamente standard nazionali obbligatori sulla sicurezza e solidi protocolli di test. Si tratta di una posizione significativa, perché l’azienda sarebbe direttamente soggetta ai requisiti proposti.

Le preoccupazioni alla base del dibattito

Evan Hubinger, un altro ricercatore di Anthropic, ha stimato pubblicamente che esista una probabilità superiore al 10% di un evento di estinzione causato dall’IA entro il prossimo decennio.

Anthropic ha inoltre pubblicato un rapporto sulle minacce che mette in discussione la sicurezza di alcuni dei suoi modelli di IA più recenti, in particolare per il loro potenziale contributo allo sviluppo di armi biologiche.

Gli ostacoli legislativi

Diversi legislatori hanno avvertito che sarà difficile elaborare norme tecnicamente solide per una tecnologia che evolve più rapidamente di quanto il Congresso riesca a programmare audizioni. Le elezioni di metà mandato di novembre aggiungono un’ulteriore complicazione. Alcuni membri potrebbero essere restii a votare su un quadro normativo tecnicamente complesso mentre conducono la campagna per la rielezione.

La prossima fase del dibattito si concentrerà quindi sulla possibilità per i legislatori di definire standard praticabili per test, audit, segnalazioni e interventi prima che il calendario elettorale limiti l’azione. Fino alla risoluzione di questi dettagli, la proposta rimarrà un tentativo di stabilire requisiti federali vincolanti sulla sicurezza, anziché un quadro normativo operativo.

Fonte: CryptoBriefing