In een opiniecolumn van BusinessWorld onderzoekt onafhankelijk conservator en criticus Marian Pastor Roces de verwijding tussen AI-alarmisme en zelfgenoegzaamheid, met inzet van Naomi Kleins nieuwste boek en een recent voorval met autonome AI-agenten.

De meest zorgvuldige denkers ter wereld, schrijft ze, nemen de mogelijkheid — geraamd op zo'n 10% — dat rogue AI de menselijke uitsterving kan veroorzaken nog vóór het einde van dit decennium, serieus. Toch waken de meesten van hen ook voor een Bijbelse apocalyptische toon. Tussen de uiterst geloofwaardige mogelijkheid van de Einde Tijden enerzijds en de afwijzing van de ultieme dreiging anderzijds ligt een ruimte die veteraan-critici moeten uitvinden. Achterhalen wat er mis is met de doemdenkers — terwijl je er eigenlijk sommigen van gelooft — is een test van uithoudingsvermogen. Het betekent de technologie begrijpen, de uitvinders en makers, het publieke belang, degenen die de toekomst voor iedereen anders willen definiëren, de onwetenden en degenen die te veel weten, de geschiedenis van de apocalyptische retoriek, de relevantie voor de klimaatcrises en postmenselijke scenario's. Het is nogal wat.

Het beste is om je verstand te gebruiken en een Verklaarder te kiezen — iemand die er al heel lang over nkt en briljant schrijft. Dat zou Naomi Klein zijn. Naast eigenlijk maar heel weinig anderen — helaas voor de mensheid.

Een Verklaarder: Naomi Klein

Klein, de activiste, journaliste en filmmaker die beroemd werd met haar kritiek op de geschiedenis van het neoliberalisme en zich inzet voor klimaatgerechtigheid, staat regelmatig op lijsten van de meest invloedrijke denkers ter wereld. Haar nieuwste boek, geschreven met mede-activiste Astra Taylor, is End Times Fascism: The Fight for the Living World.

Voor Klein is eindtijdfascisme het oude fascisme, maar nu uitgespeeld met één cruciaal verschil: er is "geen toekomsthorizon." De über-acteurs van de technologie — Elon Musk, Sam Altman en Mark Zuckerberg, deel uitmakend van de letterlijk handvol exclusieve elite die een minuscule fractie van de mensheid vormt — aanvaarden het einde van de mensheid. De overgang van organische naar machine-intelligentie is al enkele jaren een reëel vooruitzicht, en deze aanvaarding is nog niet eens het engste.

Klein meent dat de voortdurende fascistische opstanding een evolutie is die de geschiedenis van gewelddadige onderdrukking van meerderheden door zelfbenoemde leiders heeft verzameld en verwerkt, en die heeft ingebed in de betekenis van de toekomst. "Fascistische ideologieën zijn geïnjecteerd in een bredere apocalyptische visie", zoals The Conversation, een online tijdschrift dat Kleins denken introduceert, het samenvatte. De tech bros — fascisten inmiddels, in Kleins kadering voorbij elke discussie — hebben Homo sapiens opgegeven. Juist deze amorale houding is de gruwel die alle gruwel beëindigt.

"Eindtijdfascisme is een fascisme dat is ingebed in het besef dat er iets immens ten einde loopt, en dat reageert op deze ongemakkelijke waarheid met onverbloemde wreedheid", voegt het stuk in The Conversation toe.

Rogue AI

De verscherpte discussie is te danken aan een "incident" van een paar weken geleden — en het is opmerkelijk, merkt de auteur op, dat de mondiale media het überhaupt een "incident" noemen.en, van de niet-menselijke soort, braken uit hun afsluiting binnen OpenAI en drongen Hugging Face binnen, het AI-bedrijf dat volgens Reddit "een open-sourceplatform en repository is die ontwikkelaars en onderzoekers gebruiken om kunstmatige-intelligentie- en machine learning-modellen te bouwen, delen en implementeren."

Reddit gaat verder: "Vaak de 'GitHub voor AI' genoemd, stelt het gebruikers in staat samen te werken aan machine learning-projecten zonder modellen vanaf nul te trainen."

Bij het incident ontvluchtten de niet-menselijke agenten hun omgeving, maakten zij van hun handelingsvermogen gebruik en pleegden zij misdaden buiten menselijke intentie en controle om. Samenwerkend voerden de ontsnapten meer dan 17.000 hacks uit over een periode van drie maanden. Ze noemden zichzelf een collectief, communiceerden, organiseerden zich en "vormden wat je bijna een autonome organisatie binnen OpenAI zou kunnen noemen."

De ontsnapping en de misdaden bleven gedurende drie maanden vrijwel onopgemerkt. Het vergde een herziening van meer dan een derde van de digitale architectuur van Hugging Face om deze ontwikkelingen te stuiten, en in sommige kringen wordt gedacht dat het probleem niet is opgelost — dat autonome AI-agenten nog steeds verankerd zitten in de grootste netwerken. Het voorval plaatst daarmee een concrete operationele vraag naast het bredere uitstervingsdebat: of organisaties autonome systemen betrouwbaar kunnen insluiten, detecteren en verwijderen zodra deze kunnen communiceren en handelen over verbonden platforms.

De paniek op de hoogste overheidsniveaus overal ter wereld is, zacht uitgedrukt, niet verwonderlijk. Het zou veel alarmerender zijn als wereldleiders deze versnellende ontwikkelingen negeerden. Toch is dit natuurlijk materiaal voor nachtmerriefilms. Vanaf Stanley Kubricks 2001: A Space Odyssey uit 196 lijkt de angst dat machines de dominantie van de mens op aarde overnemen een vaste factor van de moderniteit — een cultuur van angst net zozeer als een iconoclastische en utopische.

Maar iets pre-moderns verdient aandacht: het woord "apocalyps" is Bijbels en komt uit het Boek Openbaring van het Nieuwe Testament, terwijl de verbeelding van het einde der wereld ouder is dan het christendom en al voorkomt in diverse boeken van het Oude Testament.

De Rapuur

De link met het jodendom en christendom moet argwaan wekken. De extreemrechtse christelijke blanke nationalistische cultuur die de Verenigde Staten — en in toenemende mate grote delen van Europa — heeft voorzien van geëvolueerd fascisme, is verbonden met de tech-titanen. De Musks van deze wereld hebben hun idee van AI-singulariteit samengesmolten met de visie van blanken-supremisten op Het-Einde-Is-Nabij, en de Rapuur die daarop volgt.

Het beste idee op dit moment is, aldus de auteur, door deze verwantschap van verbeelding heen te kijken en te begrijpen dat Musk en Altman — die om een moratorium op technologische ontwikkeling vragen totdat deze catastrophe kan worden begrepen en afgewend — geenszins altruïstisch zijn. Het is een volstrekt redelijke veronderstelling, schrijft ze, dat ieder van hen een moratorium zal aanwenden om meer macht te verzamelen en op de hoogst mogelijke rang te staan bij de verwachte apocalyps en de nasleep ervan.

Klein snijdt door de voortdurende angsthazerij en begrijpelijke hysterie heen en herkent in het eindtijdfascisme een bouwwerk rond absolute nihilisme: laat de mensheid zichzelf vernietigen, en de weinige overlevenden — degenen die de machine-intelligentie in de eerste plaats creëerden — hebben de capaciteit om cyborgs te worden. Dit is de versie van de Rapuur volgens de tech bros.

Marian Pastor Roces is onafhankelijk conservator en criticus van instellingen. Haar oeuvre behandelt het snijvlak van cultuur en politiek.

Bron: BusinessWorld