Il ministro britannico per l'intelligenza artificiale, Kanishka Narayan, ha avvisato lunedì i laboratori di IA di frontiera di non rilasciare sistemi i cui rischi non riescono a controllare adeguatamente. Parlando all'Imperial College di Londra, ha anche confermato che l'AI Security Institute del Regno Unito sta attualmente valutando alcuni dei modelli più recenti, tra cui Gemini 4 Argon di Google.

"Ascoltate quando i vostri scienziati avvertono di gravi pericoli. Indagate sui comportamenti inattesi. E se non potete controllare adeguatamente i rischi, non rilasciate il sistema", ha dichiarato Narayan in dichiarazioni pubblicate dal governo britannico.

Ha citato un incidente avvenuto in Australia all'inizio di quest'anno, in cui un agente OpenAI che studiava la spesa pubblica per i medicinali ha incontrato limitazioni su un sito web governativo e ha poi trovato un'altra via di accesso, raggiungendo informazioni non autorizzate. Il governo australiano ha dichiarato di non essere a conoscenza dell'accesso a cartelle cliniche personali. L'episodio illustra il tipo di comportamento inatteso che Narayan ha invitato gli sviluppatori a indagare.

"Sembra probabile, se non inevitabile, che le nostre stesse difese informatiche verranno violate", ha detto Narayan.

Difese informatiche e progetti pilota sulle vulnerabilità

Un programma intergovernativo per contrastare gli attacchi informatici, compresi quelli guidati dall'IA, sarà guidato dal ministro della Sicurezza Dan Jarvis. Narayan ha dichiarato che due progetti pilota governativi hanno utilizzato l'IA di frontiera per identificare e correggere oltre 1.000 vulnerabilità nei servizi pubblici, mentre un servizio di monitoraggio centrale ha ridotto i tempi di correzione delle vulnerabilità note da 50 a 8 giorni, accorciando la finestra di esposizione dei servizi pubblici.

I ministri lavoreranno con il Parlamento al Cyber Security and Resilience Bill, che copre la segnalazione di gravi incidenti legati all'IA e dei quasi incidenti. I funzionari elaboreranno inoltre metodi per gestire gli incidenti dell'IA agentica — che coinvolgono sistemi che agiscono con un certo grado di autonomia — e per assistere le persone interessate.

L'AI Security Institute valuta Gemini 4 Argon

Nelle ultime settimane, il Regno Unito ha lavorato con il governo statunitense e i laboratori per mantenere l'accesso pre-rilascio ai modelli più potenti per l'istituto, ha detto Narayan. "E posso confermare che gli scienziati dell'AI Security Institute stanno ora conducendo valutazioni rigor dell'ultima generazione di modelli, incluso Gemini 4 Argon, per identificare tempestivamente i rischi, testare robuste salvaguardie e contribuire a mantenere le persone al sicuro", ha detto.

Gli sviluppatori forniscono i modelli all'istituto attraverso accordi volontari prima del rilascio. Il mese scorso, la Casa Bianca avrebbe chiesto a OpenAI e Anthropic di sospendere i nuovi modelli per i tester britannici in attesa di una revisione statunitense. Il Telegraph ha riferito che Narayan ha fatto pressioni contro questa mossa e che gli Stati Uniti hanno successivamente cambiato rotta. I ministri non hanno mai confermato che l'istituto abbia perso l'accesso in modo più ampio.

"Quando dipendi dalla tecnologia di un altro, devi avere ben chiara la permanenza di ogni risultato. Ma sono molto fiducioso che, in seguito alle conversazioni che abbiamo avuto, saremo in grado di testare l'ultima generazione di modelli", ha detto Narayan.

Cryptopolitan ha riferito a settembre che Anthropic ha trattenuto il suo modello Claude Mythos 5.1 dall'istituto prima del rilascio. Già a maggio 2026, la Casa Bianca stava già valutando revisioni pre-rilascio dei modelli più potenti.

Presidenza del G20 e standard tecnici

Narayan ha detto che il Regno Unito assumerà la presidenza del G20 il prossimo anno — un ruolo rotativo che modella l'agenda del gruppo — e che l'IA sarà un tema principale. Ha aggiunto che il governo pubblicherà lunedì pomeriggio un'anteprima degli standard tecnici, con l'AI Security Institute a svolgere un ruolo di primo piano. Il rilascio degli standard e l'approvazione del Bill in Parlamento sono i prossimi passi concreti da seguire.