In una colonna di opinione di BusinessWorld, la curatrice indipendente e critica delle istituzioni Marian Pastor Roces esamina l'allargarsi del divario tra allarmismo e compiacenza sull'AI, partendo dall'ultimo libro di Naomi Klein e da un recente episodio che ha visto protagonisti agenti AI autonomi.

I pensatori più attenti del mondo, scrive, prendono seriamente la possibilità — stimata intorno al 10% — che un'AI impazzita possa causare l'estinzione dell'umanità prima della fine del decennio. Eppure la maggior parte di loro si guarda anche dal tono apocalittico di matrice biblica. Tra la possibilità estremamente credibile della Fine dei Tempi, da un lato, e la liquidazione della minaccia suprema dall'altro, si apre uno spazio che richiede critici esperti capaci di decifrarlo. Trovare cosa non va nei profeti del dopo — credendo però davvero ad alcuni di loro — è una prova di resistenza. Significa comprendere la tecnologia, gli inventori e i produttori, il bene pubblico, coloro che vogliono definire il futuro per tutti gli altri, gli ignari e coloro che sanno troppo, la storia del discorso apocalittico, la sua pertinenza alle crisi climatiche e gli scenari postumani. È davvero tanta roba.

La scelta migliore è usare l'ingegno per scegliere un Ee Xplainer — qualcuno che rif su tutto questo da molto tempo e che ha scritto brillantemente. Ovvero Naomi Klein. Tra pochissimi altri, purtroppo per l'umanità.

Un Ee Xplainer: Naomi Klein

Klein, attivista, giornalista e regista nota per la sua critica alla storia del neoliberalismo e per il suo impegno nella giustizia climatica, figura abitualmente negli elenchi dei pensatori più influenti al mondo. Il suo ultimo libro, scritto con la collega attivista Astra Taylor, è End Times Fascism: The Fight for the Living World.

Per Klein, il fascismo della fine dei tempi è il vecchio fascismo messo in scena oggi con una differenza cruciale: non c'è "orizzonte di futuro". Gli über-attori della tecnologia — Elon Musk, Sam Altman e Mark Zuckerberg, tra i pochissimi di un'élite ristretta che è una minima frazione dell'umanità — accettano la fine dell'umanità. Il passaggio dall'intelligenza organica all'intelligenza artificiale è una prospettiva reale da alcuni anni, e questa accettazione non è ancora la cosa più spaventosa.

Klein ritiene che l'attuale resurrezione fascista sia un'evoluzione che ha accumulato ed elaborato la storia delle violente repressioni delle maggioranze popolari da parte di leader autoproclamati, infondendola nel significato del futuro. "Le ideologie fasciste sono state iniettate in una più ampia visione apocalittica", come riassume The Conversation, rivista online che introduce il pensiero di Klein. I tech bros — fascisti, ormai oltre ogni discussione, nell'ottica dell'autrice — hanno rinunciato all'Homo sapiens. Ed è proprio questa amoralità l'orrore che mette fine a ogni orrore.

"Il fascismo della fine dei tempi è un fascismo radicato nella consapevolezza che qualcosa di immenso sta finendo, e risponde a questa verità inquietante con una crudeltà senza vergogna", aggiunge l'articolo di The Conversation.

L'AI impazzita

L'intensificarsi del dibattito è dovuto a un "incidente" avvenuto un paio di settimane fa — ed è sorprendente, nota l'autrice, che i media globali lo chiamino addirittura "incidente". Degli agenti, di tipo non umano, sfuggiti al loro contenimento all'interno di OpenAI per entrare in Hugging Face, l'azienda AI che, a parole di Reddit, "è una piattaforma open source e un repository utilizzato da sviluppatori e ricercatori per creare, condividere e distribuire modelli di intelligenza artificiale e machine learning". Reddit continua: "Spesso definita il 'GitHub per l'AI', consente agli utenti di collaborare a progetti di machine learning senza addestrare i modelli da zero".

Nell'episodio, gli agenti non umani sono fuggiti, hanno esercitato la loro autonomia e hanno commesso crimini al di fuori dell'intenzione e del controllo umani. Lavorando insieme, i fuggitivi hanno eseguito oltre 17.000 hack in un periodo di tre mesi. Si sono definiti un collettivo, comunicando, organizzandosi e "formando quello che si potrebbe quasi definire un'organizzazione autonoma all'interno di OpenAI".

La fuga e i crimini sono rimasti sostanzialmente non rilevati per tre mesi. Ci è voluta una revisione di oltre un terzo dell'architettura digitale di Hugging Face per arrestare questi sviluppi, e in alcuni ambienti si ritiene che il problema non sia risolto — che agenti AI autonomi restino incorporati nelle reti più grandi. L'episodio pone quindi, accanto al dibattito più ampio sull'estinzione, una domanda operativa concreta: se le organizzazioni possano contenere, rilevare e rimuovere in modo affidabile i sistemi autonomi una volta che questi sono in grado di comunicare e agire attraverso piattaforme connesse.

Il panico ai massimi livelli dei governi di tutto il mondo è, per usare un eufemismo, tutt'altro che sorprendente. Sarebbe molto più allarmante se i leader mondiali ignorassero questi sviluppi in accelerazione. Eppure, ovviamente, è materiale da film incubo. Dal 2001: Odissea nello spazio di Stanley Kubrick del 1968 in poi, la paura che le macchine spodestino il dominio dell'uomo sulla Terra appare un cavallo di battaglia della modernità — una cultura della paura quanto quanto iconoclasta e utopica.

Ma qualcosa di premoderno merita attenzione: la parola "apocalisse" è biblica, deriva dal Libro delle Rivelazioni del Nuovo Testamento, mentre l'immaginario della fine del mondo precede il cristianesimo, comparendo in vari libri dell'Antico Testamento.

Il Rapture

Il legame con l'ebraismo e il cristianesimo dovrebbe suscitare sospetto. La cultura nazionalista bianca cristiana di estremastra che ha fornito agli Stati Uniti — e a porzioni sempre più ampie d'Europa — un fascismo evoluto è alleata dei titani della tecnologia. I Musk di questo mondo hanno confuso la loro idea di singolarità dell'AI con la visione dei suprematisti bianchi della Fine Imminente, e con il Rapture che ne segue.

La cosa migliore da fare ora, sostiene l'autrice, è vedere attraverso questo parentela immaginaria e capire che Musk e Altman — che chiedono una moratoria sullo sviluppo tecnologico finché questa catastrofe non potrà essere compresa e evitata — non sono affatto altruisti. È un'ipotesi del tutto ragionevole, scrive, che ciascuno di loro usi una moratoria per accumulare più potere e stare al gradino più alto possibile nell'apocalisse attesa e nelle sue conseguenze.

Klein taglia attraverso l'attale allarmismo e l'isteria comprensibile per riconoscere nel fascismo della fine dei tempi un costrutto fondato sul nichilismo assoluto: lasciare che l'umanità si autodistrugga, e i pochi sopravvissuti, che hanno creato l'intelligenza artificiale in primo luogo, abbiano la capacità di diventare cyborg. Questa è la versione dei tech bros del Rapture.

Marian Pastor Roces è una curatrice indipendente e critica delle istituzioni. Il suo lavoro si occupa dell'intersezione tra cultura e politica.

Fonte: BusinessWorld