Esperti di sicurezza degli Stati Uniti e della Cina hanno proposto una serie di linee rosse che vieterebbero all'intelligenza artificiale di lanciare autonomamente attacchi informatici contro i sistemi di comando nucleare o di decidere l'uso di armi nucleari.

La proposta figura in un recente rapporto di Brookings, istituto di ricerca sulle politiche con sede a Washington D.C., e dell'Università Fudan di Shanghai, che esorta Washington e Pechino a estendere l'impegno sul controllo umano delle armi nucleari ad altri usi militari dell'IA, compresi gli attacchi informatici contro i sistemi di comando nucleare.

«I presidenti Donald Trump e Xi Jinping possono fare da guida nella governance di questi pericoli concordando che solo gli esseri umani, e non l'IA, debbano decidere di avviare un attacco informatico contro i rispettivi sistemi di comando, controllo e comunicazioni nucleari (NC3) o le infrastrutture critiche», hanno scritto i ricercatori.

I sistemi NC3 aiutano i governi a individuare le minacce, decidere se usare armi nucleari e trasmettere gli ordini di lancio. Un guasto in qualsiasi fase potrebbe interrompere le comunicazioni, far interpretare male un attacco, incoraggiare un primo colpo o innescare un lancio accidentale o non autorizzato.

«Estendere alle armi nucleari il principio secondo cui gli attacchi con effetti strategici devono esprimere un'intenzione umana ed essere soggetti a responsabilità umana non richiede che Washington e Pechino condividano altri principi di cybersecurity o di protezione delle infrastrutture», hanno scritto i ricercatori.

Secondo l'accordo proposto, entrambi i paesi dovrebbero lavorare per ridurre il rischio che il caso, l'errore umano, un'IA imprevedibile o attori non autorizzati possano innescare attacchi con conseguenze strategiche. Gli autori hanno anche auspicato una hotline militare sull'IA — un canale di comunicazione diretto tra i due governi — e una definizione condivisa di controllo umano, avvertendo che la velocità e il comportamento incerto dell'IA potrebbero lasciare ai leader poco tempo per fermare un conflitto in escalazione.

La richiesta di salvaguardie in stile nucleare si inserisce in un dibattito in crescita su come rallentare lo sviluppo dell'IA e mantenere sistemi sempre più capaci sotto controllo umano. La preoccupazione è particolarmente acuta in ambito militare, dove decisioni automatizzate prese in millisecondi potrebbero trasformare un falso allarme o un attacco informatico in una crisi nucleare.

Quell'allarme è stato rafforzato a febbraio, quando modelli di OpenAI, Google e Anthropic hanno usato armi nucleari nel 95% degli scenari di guerra simulati testati, anche se gli esperti hanno precisato che la simulazione potrebbe aver incoraggiato l'escalation.

Lo stesso mese, Anthropic ha rifiutato le richieste del Pentagono di rimuovere le restrizioni di Claude sulla sorveglianza di massa e sulle armi completamente autonome. Trump ha ordinato alle agenzie federali di smettere di usare la tecnologia dell'azienda, ma un giudice federale ha stabilito il 28 agosto che l'amministrazione aveva rappresaglia illegalmente contro Anthropic.

Gli appelli alla moderazione si sono poi diffusi in tutto il settore. All'inizio di questo mese, l'amministratore delegato di Anthropic Dario Amodei ha esortato gli sviluppatori a rallentare i progressi delle capacità, ottenendo il sostegno dell'amministratore delegato di OpenAI Sam Altman e del proprietario di xAI Elon Musk, mentre OpenAI ha chiesto al Congresso se le aziende possano coordinare un rallentamento senza violare le leggi antitrust.

In assenza di un rallentamento vincolante, gli autori di Brookings propongono una regola più ristretta: solo gli esseri umani dovrebbero poter autorizzare attacchi ai sistemi di comando nucleare o l'uso di armi nucleari. Le linee rosse restano per ora raccomandazioni; la loro attuazione spetterebbe a Washington e Pechino.

«La governance dell'IA militare non è una negoziazione che può permettersi di attendere — è una corsa contro il tempo», hanno scritto.