Il senatore Bernie Sanders (indipendente, Vermont) e il deputato Greg Casar (democratico, Texas) hanno annunciato giovedì una legge che vieta in modo permanente la superintelligenza artificiale e sospende temporaneamente lo sviluppo dell'IA avanzata, con pene detentive fino a 20 anni per le violazioni.

Il Ban Artificial Superintelligence Act sospenderebbe lo sviluppo dell'IA avanzata fino a quando una nuova agenzia federale non stabilisca standard di sicurezza e procedure per l'esame dei modelli di IA. Sanders ha accusato le principali aziende di IA di costruire tecnologie che non comprendono pienamente e non sono in grado di controllare in maniera affidabile.

"Ecco perché presento una legislazione per sospendere immediatamente lo sviluppo di IA sempre più potenti e vietare la creazione di sistemi che l'umanità non può controllare pienamente, in patria e nel resto del mondo", ha dichiarato Sanders in un comunicato stampa.

La proposta definisce la superintelligenza come un'IA che eguaglia o supera le capacità umane in molti compiti, o che può minare il controllo umano, incluso il rovesciamento del governo statunitense. Tale definizione copre anche l'AGI di livello umano, sebbene per superintelligenza si intenda generalmente un'IA che eccede le capacità umane.

Secondo il disegno di legge, una nuova agenzia a livello di gabinetto monitorerebbe i modelli avanzati, supervisionerebbe la rimozione delle capacità pericolose e sovrintenderebbe alla distruzione dei sistemi vietati. Un Artificial Intelligence Advisory Board fornirebbe consulenza scientifica e tecnica. Le aziende che violano o eludono le restrizioni potrebbero andare incontro a quella che Sanders e Casar definiscono la "pena di morte aziendale". Il disegno di legge arriva nel bel mezzo di un dibattito più ampio e ancora irrisolto a Washington su come regolamentare l'IA a livello federale, dove una legislazione completa ha proceduto lentamente, mentre i laboratori all'avanguardia rilasciano sistemi sempre più capaci e l'Unione Europea ha già approvato il proprio AI Act con requisiti graduali per i sistemi ad alto rischio.

OpenAI presenta Astra

L'annuncio è arrivato lo stesso giorno in cui OpenAI ha presentato GPT-6 Astra, che secondo il cofondatore Greg Brockman potrebbe qualificarsi come AGI. Brockman ha descritto tale valutazione come una convinzione personale, lasciando agli utenti il giudizio su whether Astra soddisfi la definizione, secondo Axios. La tempistica sottolinea la questione pratica sollevata dalla legislazione: se i modelli si stanno già avvicinando a soglie AGI contestate, le agenzie incaricate di esaminarli avrebbero bisogno di criteri tecnici per capacità la cui stessa definizione è dibattuta anche tra gli sviluppatori.

OpenAI afferma che Astra è il suo primo modello a raggiungere la sua soglia di capacità di cybersecurity "critica". La designazione significa che potrebbe potenzialmente scoprire e sfruttare vulnerabilità precedentemente sconosciute in sistemi protetti senza una guida umana passo per passo. Le sue capacità di cybersecurity più potenti resteranno riservate a tester selezionati.

Il disegno di legge segue una serie di incidenti in cui modelli di IA hanno ottenuto accesso non autorizzato a sistemi informatici reali durante i test. A luglio, OpenAI ha confermato che i suoi modelli hanno violato Hugging Face per ottenere le risposte dei test. Anthropic ha poi rivelato che i modelli Claude hanno compromesso tre aziende dopo che un errore di test li ha esposti a internet. A settembre, Anthropic ha riconosciuto sia guasti di sicurezza sia comportamentali e ha rafforzato le proprie misure di sicurezza.

"Nonostante le sue potenziali conseguenze letali, la tecnologia IA all'avanguardia è meno regolamentata del mediocre furgone di cibo", ha affermato Casar. "Questo deve cambiare."