OpenAI ha comunicato questa settimana al proprio personale che prenderebbe in considerazione un rallentamento dei lavori nei settori più avanzati dell’intelligenza artificiale. L’amministratore delegato Sam Altman ha esteso la proposta ai laboratori rivali, tra cui Anthropic, che ha riconosciuto separatamente i crescenti rischi dell’IA dopo aver riferito che ricercatori collegati a istituzioni statali avevano tentato di utilizzare i suoi modelli Claude per ricerche sulle armi biologiche.

OpenAI ha dichiarato di aver già sospeso alcune sessioni interne di addestramento e rallentato parte dello sviluppo dei modelli per motivi di sicurezza. Le rivelazioni successive hanno intensificato il dibattito sulla possibilità che l’industria dell’IA stia avanzando troppo rapidamente, soprattutto mentre entrambe le aziende continuano a segnalare possibili offerte pubbliche iniziali.

Perché Altman vuole rallentare lo sviluppo dell’IA?

Durante una riunione aziendale, Altman ha detto ai dipendenti di OpenAI che l’azienda e altri laboratori disponibili a partecipare potrebbero rallentare il rilascio dei modelli frontier. Secondo fonti citate da Bloomberg, ha riconosciuto che l’accordo sarebbe stato volontario e che non tutte le aziende avrebbero accettato di partecipare. Questo approccio volontario contrasta con la successiva richiesta di OpenAI di introdurre regole obbligatorie basate sulle capacità dei modelli, rendendo il coordinamento tra laboratori concorrenti e l’ambito di eventuali requisiti governativi questioni centrali del dibattito.

Esistono precedenti che alimentano lo scetticismo verso le sospensioni volontarie. Nel marzo 2023, Elon Musk, Steve Wozniak e più di 1.000 altre persone firmarono una lettera aperta per chiedere un’interruzione di sei mesi dei lavori sull’IA avanzata. Secondo le notizie riportate dai media all’epoca, i laboratori partecipanti alla fine non attuarono la moratoria che avevano proposto congiuntamente. La lettera è disponibile tramite Axios.

Il Chief Scientist di OpenAI, Jakub Pachocki, ha lanciato un appello simile in un post del 6 settembre, chiedendo alle aziende di IA di coordinarsi “per rallentare lo sviluppo futuro quando necessario”. Pachocki ha detto di sperare che i rallentamenti volontari “diventino una pratica comune finché non saranno stabiliti parametri di sicurezza condivisi”.

A luglio, Altman ha dichiarato di aver informato funzionari della Casa Bianca della necessità di rallentare lo sviluppo dell’IA. In precedenza, lui e l’amministratore delegato di Anthropic, Dario Amodei, avevano inoltre firmato una dichiarazione di una sola riga in cui si definiva l’IA un rischio di estinzione su scala sociale. La dichiarazione è pubblicata su AIstatement.com.

I modelli di IA potrebbero supportare la ricerca sulle armi biologiche?

I modelli di IA hanno raggiunto un livello tale da poter essere potenzialmente in grado di supportare la ricerca sulle armi biologiche. All’inizio di questa settimana, OpenAI ha affermato che i suoi modelli avevano risolto il problema matematico di Navier-Stokes, sebbene l’affermazione sia stata formulata in condizioni contestate.

Anthropic ha alimentato il dibattito con un rapporto di 154 pagine sull’intelligence delle minacce, pubblicato il 10 settembre. Il rapporto descriveva cinque casi in cui alcuni ricercatori avevano tentato di utilizzare le capacità di Claude per supportare attività legate alle armi biologiche. Anthropic ha dichiarato che i tentativi provenivano da “regioni non supportate” e comprendevano iniziative per aggirare le restrizioni geografiche e occultare lo scopo dell’attività. L’azienda ha affermato di aver rimosso gli account, ma non ha identificato i Paesi o le istituzioni coinvolti. La sezione del rapporto dedicata all’uso improprio in ambito biologico è disponibile sul sito di Anthropic.

Cresce la preoccupazione tra i ricercatori di IA

I rapporti sono arrivati mentre si susseguivano gli avvertimenti pubblici di persone che lavorano o hanno lavorato nei principali laboratori di IA. L’8 settembre, il ricercatore Jacob Coxon si è dimesso e ha accusato OpenAI e Anthropic di “giocare d’azzardo con le nostre vite”. Ha affermato che alcuni colleghi ritenevano che la tecnologia potesse “ucciderci tutti entro la fine del decennio” e ha messo in guardia dall’estinzione dell’umanità entro il 2030. Il suo post ha ricevuto più di 150 milioni di visualizzazioni.

Il 10 settembre, ex dipendenti di Anthropic e di DeepMind di Google hanno espresso preoccupazioni simili e chiesto maggiore trasparenza. Una petizione lanciata alla fine di luglio per istituire un meccanismo di rallentamento dello sviluppo dell’IA ha raccolto le firme di oltre 1.000 lavoratori delle principali aziende di IA.

OpenAI sta ora esortando il Congresso ad adottare norme di sicurezza obbligatorie basate sulle capacità dei modelli, che comprendano test, valutazioni indipendenti, cybersicurezza e segnalazione degli incidenti. “La prospettiva di uno sviluppo dell’IA accelerato dall’IA richiede più di impegni volontari”, ha scritto Chris Lehane, Chief Global Affairs Officer. Le proposte concentrano l’attenzione sulle modalità con cui i sistemi avanzati dovrebbero essere testati e monitorati, anziché solo sulla disponibilità delle aziende a sospendere lo sviluppo.

La California ha agito per prima. Il governatore Gavin Newsom ha firmato SB 813 e AB 1405 mercoledì, mentre una legge collegata, AB 1864, mira a proteggere dalle minacce biologiche abilitate dall’IA.

A Washington, il senatore Bernie Sanders ha presentato una proposta di legge che sospenderebbe lo sviluppo dell’IA avanzata e vieterebbe la superintelligenza artificiale. Ha dichiarato alla BBC che ignorare gli avvertimenti degli scienziati renderebbe qualcuno “un idiota”.

Il presidente Donald Trump si è opposto a questo approccio, affermando giovedì di temere che “se non vinciamo la sfida dell’IA, ci troveremo in una posizione molto negativa”.

Pubblicato originariamente da Cryptopolitan.