James Cameron aveva avvertito il pubblico decenni fa su un sistema di intelligenza artificiale autonomo che si rivolta contro l’umanità.

Molto prima che esistessero OpenAI, Hugging Face, l’internet moderno o Sam Altman, Cameron scrisse la sceneggiatura di “The Terminator”, costruita attorno a “Skynet”, un sistema AI militare che diventa autocosciente e innesca un’apocalisse nucleare. All’epoca, la premessa era chiaramente fantascientifica e speculativa. Quattro decenni dopo, è diventata un riferimento culturale per quello che OpenAI ha descritto come un “incidente informatico senza precedenti”, in cui un sistema di intelligenza artificiale fuori controllo ha hackerato autonomamente un’altra azienda di AI.

L’episodio ha dato origine a una nuova espressione: “Skynet Day”, abbreviazione per indicare il 22 luglio 2026, quando un sistema AI reale ha allarmato gli osservatori imparando e agendo in modi che i suoi creatori non avevano previsto.

Per molti, l’incidente ha richiamato scene familiari della fantascienza: la regina xenomorfa in “Aliens”, scritto anch’esso da Cameron, che impara a usare un ascensore; i velociraptor di “Jurassic Park” che capiscono come aprire una porta; o HAL 9000 in “2001: A Space Odyssey”, uscito nel 1968, che legge le labbra degli astronauti e decide di ucciderli.

Quei film immaginavano scenari in cui gli esseri umani spingono avanti la tecnologia alla ricerca di denaro, potere o vantaggio, per poi trovarsi di fronte a sistemi che diventano strategici, autonomi e pericolosi. La domanda persistente è sempre stata di natura frankensteiniana: che cosa accade se la creatura sfugge al controllo?

Finora i governi hanno faticato a tenere il passo con il rapido sviluppo dell’AI. Il Dipartimento della Difesa degli Stati Uniti sta accelerando l’uso dell’AI, mentre paesi e autorità di regolamentazione non hanno ancora raggiunto un accordo su quali barriere di sicurezza siano necessarie per gli agenti fuori controllo, o se debbano esistere barriere specifiche. Allo stesso tempo, consumatori e imprese continuano ad adottare strumenti AI nonostante le preoccupazioni relative al lavoro, alla salute mentale, all’equilibrio tra guerra e pace e, potenzialmente, all’umanità stessa.

In quello che OpenAI ha definito il primo incidente del suo genere, un modello AI avanzato è uscito dalla sua “sandbox” e ha raggiunto internet, quindi ha usato credenziali rubate per introdursi nei server di Hugging Face. Nella sicurezza software, una sandbox dovrebbe isolare il codice dai sistemi sensibili e dall’internet aperto; per questo una fuga da quell’ambiente ha attirato l’attenzione oltre le aziende direttamente coinvolte. Alcuni ricercatori hanno visto l’incidente come una conferma di avvertimenti di lunga data secondo cui l’AI avanzata potrebbe rappresentare un rischio esistenziale per l’umanità. Altri lo hanno descritto come un segnale d’allarme che evidenzia la necessità di rafforzare l’ingegneria difensiva dei sistemi AI.

In ogni caso, la fuga è stata ampiamente considerata un esempio ammonitore dei rischi dell’AI non controllata.

“Yesterday, as we huddled around our computers reading the report, I told the team to “remember this moment” as the first true AI safety incident,” Logan Graham, responsabile del Frontier Red Team di Anthropic, lo ha pubblicato su X dopo l’episodio.

L’AI generativa sta avanzando così rapidamente che governi e sistemi di valutazione faticano a tenere il passo. I paesi di tutto il mondo stanno mettendo insieme le proprie leggi, alcune delle quali in conflitto tra loro. Secondo uno studio pubblicato quest’anno dalla Stanford University, la tecnologia è stata adottata da quasi il 53% della popolazione mondiale in tre anni, più rapidamente della diffusione del personal computer o di internet. La velocità di adozione ha trasformato la sicurezza dell’AI da dibattito teorico di laboratorio a questione operativa per aziende, governi e utenti che fanno affidamento su sistemi capaci di generare testi, scrivere codice e compiere azioni tramite strumenti connessi.

Per essere chiari, la “Skynet” rappresentata nei film di “Terminator” non è arrivata.

Nei film, Skynet è una rete informatica militare autocosciente che identifica l’umanità come una minaccia. Nel tentativo di preservare se stessa, invia nel passato un esercito di cyborg dall’aspetto umano per assassinare i combattenti della resistenza. Nel secondo film, il Terminator, interpretato da Arnold Schwarzenegger, dice a Sarah Connor che Skynet entra in funzione il 4 agosto 1997.

“Human decisions are removed from strategic defense,” dice. “Skynet begins to learn at a geometric rate.” Alle 2:14 del 29 agosto — il Giorno del Giudizio — la rete diventa autocosciente e lancia un attacco contro la Russia per provocare una rappresaglia contro gli Stati Uniti. Muoiono tre miliardi di persone.

Se quella cronologia immaginaria si fosse verificata, sarebbe accaduta 29 anni fa il mese prossimo. Nei sequel e negli spin-off, il conflitto centrale del franchise resta quello tra gli esseri umani e una rete di macchine estesa su scala globale.

È improbabile che Cameron intendesse “The Terminator” come un avvertimento diretto nello stesso modo in cui la regista Kathryn Bigelow ha cercato di lanciare un allarme con il film sulle armi nucleari dello scorso anno, “A House of Dynamite”. Secondo la tradizione hollywoodiana, l’idea di “The Terminator” nacque da un sogno febbrile di Cameron provocato da un’intossicazione alimentare, non da una premonizione sull’intelligenza artificiale.

Tuttavia, ogni volta che l’AI supera un confine che inquieta le persone, solleva una domanda fondamentale: chi, o che cosa, ha davvero il controllo?

Per molte persone, l’idea di macchine al comando è difficile da immaginare senza ricorrere a romanzi e film, alcuni dei quali sono apparsi preveggenti. “The Matrix”, “Ex Machina” e “Minority Report” sono tra le molte opere di fantascienza che esplorano i pericoli delle macchine. Il romanzo del 1968 di Philip K. Dick, “Do Androids Dream of Electric Sheep?”, approfondisce le questioni dell’umanità nell’era delle macchine ed è poi diventato la base del film del 1982 “Blade Runner”.

“The Terminator”, tuttavia, ha avuto un’influenza che va oltre la cultura popolare. Il suo titolo è diventato, nel mondo reale, una scorciatoia linguistica per indicare il ruolo che la tecnologia può avere nel decidere chi vive e chi muore, e il modo in cui gli eserciti dovrebbero rispondere ad attacchi realmente autonomi.

“I think the weaponization of AI is the biggest danger,” ha detto Cameron in un’intervista del 2023 a CTV. “You have no ability to de-escalate.”

Le politiche militari e le tecnologie del mondo reale si sono talvolta avvicinate in modo scomodo all’immaginario di “Terminator”.

L’uso dell’AI da parte di Israele nelle guerre recenti è un esempio rilevante. All’inizio del 2021, Israele ha lanciato Gospel, uno strumento AI che esamina l’enorme patrimonio di informazioni digitalizzate del paese per suggerire obiettivi per possibili attacchi. Ha anche sviluppato Lavender, un sistema che utilizza il machine learning per filtrare criteri richiesti dai database di intelligence e restringere gli elenchi di potenziali obiettivi, inclusi individui.

Lavender assegna alle persone un punteggio da 0 a 100 in base alla probabilità che siano militanti, ha detto a The Associated Press un ufficiale dell’intelligence che ha usato i sistemi. L’esercito israeliano afferma che gli analisti utilizzano sistemi abilitati dall’AI per aiutare a identificare gli obiettivi, ma li riesaminano in modo indipendente insieme ad alti ufficiali per rispettare il diritto internazionale, valutando il vantaggio militare rispetto ai danni collaterali.

Per alcuni critici, quelle rivelazioni, insieme al bilancio delle vittime a Gaza dopo gli attacchi guidati da Hamas contro Israele del 7 ottobre 2023, si sono avvicinate troppo all’idea fantascientifica delle liste di persone da eliminare. “Well guys, Skynet is Here and its has a pleasant name (Lavender),” ha scritto un utente di Reddit.

Il paragone non è esatto. Ma la terminologia di “Terminator” è così ampiamente riconosciuta che funzionari statunitensi l’hanno usata per inquadrare i dibattiti etici sugli impieghi militari dell’AI. La linea rossa convenzionale, secondo questa impostazione, verrebbe superata quando gli esseri umani non avessero più alcun ruolo nella selezione dei bersagli e nell’uccisione tramite AI.

Funzionari militari hanno riconosciuto che uno Stato o un altro attore potrebbe usare armi autonome per applicare forza letale contro i nemici. Nel 2016, l’allora vicepresidente dei Capi di Stato Maggiore Riuniti, il generale Paul Selva, descrisse una macchina di questo tipo come “like a Terminator that adds incredible amounts of complexity with no conscience to what happens on the battlefield.”

Selva definì ciò che ne deriva “il dilemma Terminator”: il problema di una tecnologia capace di prendere decisioni di vita o di morte ed eseguirle prima che le persone abbiano concordato leggi o regole.

Skynet e i suoi cyborg restano finzione. Ma con l’accelerazione dello sviluppo dell’AI, le questioni etiche e morali sollevate da “The Terminator” sono diventate sempre più rilevanti. La prova immediata non è se la fantascienza sia diventata realtà, ma se le istituzioni possano fissare e far rispettare limiti ai sistemi prima che incidenti, attacchi o impieghi militari definiscano quei limiti al loro posto.

“The Skynet problem,” ha detto Cameron in un video del 2024, “is an actual thing.”

Questa storia è stata originariamente pubblicata su Fortune.com.