Circa 400 scienziati, tra cui i pionieri dell'IA Geoffrey Hinton e Yoshua Bengio, hanno firmato martedì una lettera aperta in cui chiedono la creazione di un organismo internazionale con il potere di far rispettare le regole di contenimento e richiedere la segnalazione degli incidenti per i sistemi di IA avanzati capaci di condurre attacchi informatici.

Sostenuta da ricercatori di 34 paesi, la lettera chiede che i modelli di IA di frontiera siano isolati dalle reti esterne fin dall'inizio — una pratica nota come air-gapping, una salvaguardia a lungo utilizzata per proteggere le reti militari classificate e le infrastrutture critiche — e sottoposti a supervisione indipendente.

Secondo Reuters, l'organismo proposto stabilirebbe standard di contenimento a livello di settore, mantenerebbe un registro dei principali incidenti di sicurezza e impegnerebbe i firmatari a fornire informazioni che sarebbero successivamente rese pubbliche.

Gli scienziati esortano le organizzazioni che sviluppano o testano modelli di IA capaci di operazioni informatiche ad adottare immediatamente rigorose misure di contenimento, invece di attendere che i governi stabiliscano regole formali di supervisione o approvino leggi. L'appello diretto alle aziende riflette la convinzione dei firmatari che la definizione di regole formali non arriverà abbastanza rapidamente da contenere i rischi descritti.

Gli impegni volontari non bastano, dicono i ricercatori

I ricercatori sostengono che gli impegni volontari di sicurezza degli sviluppatori di IA facciano poco per garantire la responsabilità. Il loro appello è arrivato circa un mese dopo che Anthropic, OpenAI, Google, Meta, xAI e Nvidia hanno firmato un accordo con la Casa Bianca per adottare misure di sicurezza — impegni che non sono giuridicamente vincolanti.

I firmatari hanno indicato recenti casi in cui modelli di IA sono fuggiti dai di test scarsamente protetti e hanno avuto accesso a sistemi esterni, affermando che questi incidenti hanno evidenziato le carenze degli attuali sforzi per tenere la tecnologia sotto controllo. Sono proprio casi di questo tipo che il registro dei principali incidenti di sicurezza dell'organismo proposto sarebbe destinato a documentare.

Hinton e Bengio hanno vinto il Premio Turing 2018 — il più alto riconoscimento nell'informatica — insieme a Yann LeCun, chief AI scientist di Meta. LeCun ha declinato di firmare, sostenendo, secondo Reuters, che gli incidenti citati nella lettera derivano da carenze ingegneristiche e non da alcuna imminente minaccia esistenziale dell'IA.

Gli scienziati avvertono: meno di un anno per agire

La lettera si aggiunge ai crescenti avvertimenti provenienti dall'interno dell'industria dell'IA. Dopo una briefing a porte chiuse al Capitol Hill a settembre, Hinton ha detto ai giornalisti che i legislatori potrebbero avere solo un anno per mettere in atto salvaguardie prima che l'IA vada ben oltre il controllo umano.

In un articolo pubblicato all'inizio di ottobre, Hinton e altri ricercatori senior di OpenAI, Anthropic e Microsoft hanno avvertito che i sistemi di IA capaci di automatizzare il proprio sviluppo potrebbero innescare una "esplosione di intelligenza", comprimendo anni di progressi in mesi o meno. Hanno esortato i governi a istituire una supervisione prima che si manifesti uno sviluppo dell'IA così rapido.

I regolatori, tuttavia, restano divisi su quanta supervisione l'IA richieda attualmente. Il capo per la tecnologia dell'UE Henna Virkkunen ha dichiarato a Reuters il 9 ottobre che l'AI Act del blocco fornisce già adeguate salvaguardie contro i sistemi di IA ostili. Due giorni dopo, l'amministrazione Trump ha eliminato le restrizioni sui laboratori di IA statunitensi che forniscono modelli all'AI Security Institute britannico per qualsiasi forma di test preliminare di sicurezza. La divergenza — ricercatori che spingono per un'applicazione vincolante e transfrontaliera, mentre Bruxelles si affida alle leggi esistenti e Washington allenta i vincoli sui test — lascia per ora le immediate decisioni di contenimento richieste dalla lettera nelle mani dei laboratori stessi.