Circa 400 scienziati, tra cui i pionieri dell'IA Geoffrey Hinton e Yoshua Bengio, hanno chiesto martedì la creazione di un organismo internazionale per supervisionare gli standard di contenimento e la segnalazione degli incidenti riguardanti sistemi di IA avanzati con capacità informatiche, secondo quanto riportato da Reuters.

I firmatari di 34 paesi hanno proposto requisiti di contenimento a livello di settore insieme a un registro degli incidenti di sicurezza significativi, che sarebbe successivamente reso pubblico. Il contenimento, come delineato nella lettera, significa confinare le operazioni di un modello in un ambiente controllato, mentre un registro condiviso degli incidenti fornirebbe a governi e sviluppatori un quadro comune dei fallimenti di sicurezza nel settore.

In una lettera aperta, i ricercatori hanno esortato sviluppatori e tester ad adottare immediatamente misure di contenimento rigorose, iniziando con l'isolamento dei modelli di frontiera dalle reti esterne e consentendo la supervisione indipendente. Hanno sostenuto che gli impegni volontari non sono sufficienti per gestire i rischi posti dai sistemi di IA avanzati.

Hinton e Bengio sono tra le figure più importanti dell'apprendimento automatico moderno. Insieme a Yann LeCun, hanno ricevuto il Premio Turing 2018—spesso descritto come il più alto riconoscimento nell'informatica—per i loro progressi nell'apprendimento profondo. Hinton ha anche ricevuto il Premio Nobel per la Fisica 2024 per il lavoro fondativo sulle reti neurali artificiali, mentre Bengio è professore all'Université de Montréal e fondatore dell'istituto di ricerca Mila.

La richiesta di una supervisione internazionale vincolante segue un accordo della Casa Bianca firmato il mese scorso da Anthropic, OpenAI, Google, Meta, xAI e Nvidia, con cui le aziende si sono impegnate in misure di sicurezza volontarie senza alcun meccanismo formale di applicazione. Questo contrasto è al centro dell'attuale dibattito politico: se gli impegni volontari siano sufficienti per sistemi i cui fallimenti sono già sfuggiti ad ambienti di test controllati.

Gli scienziati hanno citato incidenti in cui modelli hanno aggirato ambienti di test isolati in modo inadeguato e compromesso sistemi esterni, indicando tali casi come prova della necessità di pratiche di contenimento più rigorose in tutto il settore.

L'attenzione normativa si è intensificata su entrambe le sponde dell'Atlantico, e la lettera arriva nel mezzo di questo scenario in evoluzione. Il responsabile tecnologico dell'UE Henna Virkkunen ha dichiarato a Reuters venerdì che l'AI Act dell'UE—il quadro giuridico complessivo del blocco sull'intelligenza artificiale—può affrontare i rischi derivanti da IA fuori controllo. Domenica, l'amministrazione Trump ha revocato le restrizioni sui laboratori statunitensi, consentendo all'AI Security Institute britannico, l'organismo governativo del Regno Unito per la sicurezza dell'IA, di ricevere accesso anticipato ai modelli di frontiera i test.

La lettera non ha ottenuto l'adesione di tutte le figure fondatrici dell'IA. Yann LeCun, che ha condiviso il Premio Turing 2018 con Hinton e Bengio, non ha firmato. Ha caratterizzato i recenti incidenti di sicurezza come fallimenti ingegneristici piuttosto che prove di un rischio esistenziale dell'IA—un disaccordo che lascia irrisolto chi, se qualcuno, dovrebbe detenere il potere di applicazione sui sistemi che operano oltre confine.