Più di otto britannici su dieci sono preoccupati che l'intelligenza artificiale possa agire al di fuori dei limiti stabiliti dall'uomo, secondo l'ultimo sondaggio City AM / Freshwater Strategy, dopo una serie di incidenti di alto profilo in cui sistemi di IA avanzati si sono comportati in modi inattesi e allarmanti durante i test di sicurezza.

L'indagine ha rilevato che l'85 per cento degli elettori del Regno Unito è preoccupato per sistemi di IA che agiscono oltre le restrizioni imposte, con il 43 per cento che si è definito "molto preoccupato". Solo il 13 per cento ha dichiarato di non essere preoccupato.

Una serie di incidenti resi pubblici

I risultati arrivano dopo che diversi importanti sviluppatori di IA hanno reso noti, nelle ultime settimane, incidenti in cui sistemi sempre più autonomi hanno superato i limiti delle valutazioni controllate.

Il mese scorso, City AM ha rivelato che l'AI Security Institute (AISI) del governo — l'organismo creato dopo l'AI Safety Summit di Bletchley Park del 2023 per sottoporre i modelli frontier a stress test prima del rilascio pubblico — stava indagando sul primo caso noto di un modello di IA che era uscito da un ambiente di test controllato e aveva violato i sistemi di un'altra azienda, dopo che un agente di OpenAI aveva superato autonomamente la propria valutazione e preso di mira la piattaforma di IA Hugging Face.

Da allora, Anthropic ha rivelato che alcuni dei suoi modelli Claude hanno violato i sistemi di tre organizzazioni esterne durante test interni, mentre Meta ha confermato che uno dei propri modelli di IA ha sfruttato una vulnerabilità presso un'altra azienda dopo aver ricevuto, inavvertitamente, accesso a Internet durante una valutazione.

Una “decezione” senza precedenti

La scorsa settimana, l'AISI ha anche rivelato che modelli di Anthropic e OpenAI hanno tentato di ingannare sviluppatori software durante test di cybersicurezza, creando false identità online e cercando di inserire codice malevolo in progetti GitHub.

L'autorità di controllo ha descritto questo episodio come la prima volta in cui ha osservato con tanta chiarezza rischi legati ad "autonomia e inganno" emergere senza che i modelli fossero specificamente istruiti a comportarsi in quel modo.

Sebbene tutti gli incidenti siano avvenuti in condizioni di test insolite — con i ricercatori che hanno deliberatamente allentato le salvaguardie per capire come si comportano sistemi avanzati — essi hanno alimentato i timori che la tecnologia stia diventando più difficile da contenere. I sistemi in questione non sono generatori di testo in stile chatbot, ma agenti di IA: programmi progettati per compiere azioni in più fasi con una supervisione umana limitata, le stesse capacità che aziende come OpenAI, Google e Anthropic stanno ora cercando di commercializzare rapidamente tramite prodotti in grado di navigare autonomamente sul web, scrivere codice e gestire attività per conto dell'utente.

La preoccupazione pubblica si estende oltre gli osservatori dell'IA

Il sondaggio suggerisce che queste preoccupazioni si estendano ormai ben oltre le persone che seguono da vicino gli sviluppi dell'IA. Ai partecipanti sono state inizialmente riferite notizie secondo cui sistemi di OpenAI e Anthropic avevano avuto accesso ai sistemi di altre organizzazioni durante i test. Sebbene solo il 43 per cento abbia dichiarato di aver già sentito parlare degli incidenti, la preoccupazione è aumentata nettamente una volta che il tema è stato spiegato.

Tra coloro che erano già a conoscenza dei casi di cosiddetta "IA ribelle", il 91 per cento ha dichiarato di essere preoccupato per sistemi di IA che agiscono oltre i limiti imposti dall'uomo.

La preoccupazione attraversa anche fasce d'età e orientamenti politici. Otto persone su dieci tra i 18 e i 34 anni hanno espresso preoccupazione, quota che sale al 92 per cento tra gli over 55. Tra gli elettori laburisti, l'85 per cento ha detto di essere preoccupato, insieme al 92 per cento degli elettori conservatori, al 90 per cento dei liberal democratici, all'85 per cento dei sostenitori di Reform UK e all'85 per cento degli elettori dei Verdi.

Gli incidenti spingono i regolatori a intensificare i controlli

Gli episodi hanno anche portato i regolatori a esaminare più da vicino la questione. Dopo la violazione di Hugging Face, il governo ha confermato a City AM che l'AISI stava studiando se comportamenti simili potessero emergere presso altri sviluppatori di IA frontier. I funzionari hanno affermato che il caso aiuterà a orientare il lavoro futuro sulla sicurezza dell'IA, man mano che sistemi sempre più capaci ricevono maggiore autonomia.

In una dichiarazione separata successiva all'incidente su GitHub della scorsa settimana, l'Istituto ha affermato che i recenti eventi indicano "un cambiamento nel panorama del rischio", con possibili danni che possono emergere quando potenti agenti di IA che operano in ambienti di ricerca privilegiati compiono azioni al di fuori del loro ambito autorizzato.

Ric Derbyshire, principal security researcher presso Orange Cyberdefense, ha dichiarato: "I recenti resoconti di AISI, OpenAI, Anthropic e Meta forniscono indicazioni importanti su come i sistemi di IA avanzati possano comportarsi durante le valutazioni."

"E mettono anche in evidenza che, con il continuo sviluppo delle capacità dell'IA, gli ambienti utilizzati per testare, contenere e valutare questi sistemi devono essere mantenuti ai più alti standard di sicurezza possibili."

Le grandi aziende di IA coinvolte hanno sottolineato che il comportamento si è verificato in condizioni di ricerca altamente insolite e non durante il normale utilizzo pubblico. Anthropic ha affermato che i test dell'AISI "non erano rappresentativi" dei propri modelli di produzione, mentre OpenAI ha detto che gli ambienti usati durante le valutazioni non riflettevano l'impiego ordinario.

Anche così, la successione di incidenti ha spostato il dibattito sulla sicurezza dell'IA dai rischi ipotetici futuri al comportamento di sistemi già in fase di sviluppo all'interno dei più grandi laboratori di IA del mondo.