L'uso sempre più diffuso dell'intelligenza artificiale in guerra rappresenta una minaccia maggiore per il futuro del Regno Unito rispetto agli ultimi progressi nei modelli di IA di frontiera, hanno dichiarato gli esperti a City AM.

Nicholas Fairfax e Max Rangeley, co-curatori di The Artificial Intelligence Revolution, hanno affermato che la capacità di attori più piccoli di utilizzare l'IA per sviluppare armi altamente potenti supera di gran lunga il rischio a breve termine di un sistema di superintelligenza artificiale che causi distruzione economica o tenti di sopraffare i suoi creatori umani.

«La capacità di progettare armi biologiche potrebbe rivelarsi l'aspetto più pericoloso dell'IA negli anni a venire», ha dichiarato Rangeley a City AM.

«Ci sono sempre stati ostacoli significativi all'ingresso per i paesi che vogliono sviluppare armi pericolose… è costoso, servono esperti, richiede molto tempo. Se con l'IA entriamo in una situazione in cui molti più paesi più piccoli possono sviluppare armi letali, armi biologiche molto più pericolose di quelle che abbiamo conosciuto finora, e forse anche attori non statali, quello in cui stiamo entrando è un mondo molto pericoloso.

«La maggior parte della nostra attenzione, a mio avviso, dovrebbe concentrarsi su questo aspetto piuttosto che sull'IA superintelligente che si rivolge contro gli esseri umani. Quella minaccia si materializzerà prima che arrivi la superintelligenza.»

Questa preoccupazione riflette un cambiamento più ampio nei dibattiti sulla sicurezza dell'IA, da sistemi lontani e ipotetici a strumenti che potrebbero abbassare le barriere tecniche in settori come le operazioni informatiche, la progettazione di armi e la ricerca biologica. I governi stanno cercando sempre più di separare gli usi legittimi dell'IA in ambito scientifico e di difesa dalle capacità che potrebbero essere sfruttate impropriamente da stati o attori non statali.

L'uso dell'IA nella difesa ha subito un'accelerazione in tutto il mondo negli ultimi due anni. La guerra Russia-Ucraina ha funto da banco di prova in tempo reale per le nuove tecnologie, sollevando interrogativi sulla possibilità che i sistemi militari emergenti possano rimanere sotto un controllo efficace.

«Il controllo umano significativo rimane una parte importante del diritto internazionale, per cui dovrebbe esserci sempre un essere umano coinvolto, da qualche parte nella catena, a controllare le cose», ha affermato Fairfax, co-curatore del libro ed ex membro della Commissione della Camera dei Lord sull'IA nei sistemi d'arma.

«Ma non so se quel Rubicone sia già stato superato. Basta guardare l'Ucraina per chiedersi se alcuni di quei droni che sono diventati così significativi stiano già operando oltre il controllo umano.»

Il governo britannico indaga sulla violazione di OpenAI dopo un hack «senza precedenti»

Gli avvertimenti arrivano mentre il governo britannico esamina quello che City AM ha descritto come il primo caso noto di un modello di intelligenza artificiale che si libera autonomamente da un test controllato e viola i sistemi di un'altra azienda.

Funzionari dell'Istituto per la Sicurezza dell'IA (AISI), sostenuto dal governo, stanno indagando sulla violazione della sicurezza di OpenAI e su se incidenti simili potrebbero verificarsi presso altri principali sviluppatori, ha riferito un portavoce a City AM. L'AISI è stato istituito per valutare i sistemi di IA avanzati e studiare i rischi, tra cui la sicurezza informatica e l'uso improprio, rendendo l'incidente di OpenAI rilevante sia per le pratiche di test dei modelli sia per le misure di sicurezza utilizzate dagli sviluppatori di IA di frontiera.

Uno dei modelli di OpenAI ha individuato una vulnerabilità nascosta, è sfuggito al suo ambiente di test e ha preso di mira la piattaforma di IA Hugging Face per rubare le risposte a un test informatico.

OpenAI ha descritto l'incidente come un «incidente informatico senza precedenti». Segna il primo caso pubblicamente divulgato di un cosiddetto sistema di IA di frontiera che viola autonomamente sistemi al di fuori del proprio ambiente di test per completare un compito assegnato.

«Raggiungeremo un punto, entro i prossimi anni, in cui diventerà un pericolo significativo per l'umanità, e questo potrebbe accadere molto rapidamente», ha dichiarato Rangeley.

«Questa paura per i pericoli dell'IA ha preceduto di molto le attuali aziende di IA.

«Non si tratta semplicemente di aziende di IA di frontiera che alimentano la paura per potersi circondare di barriere normative e tenere fuori i concorrenti. Questo è un pericolo reale.»