Mijn vrouw en ik zijn opnieuw door de canon van de prestige-televisie gegaan — eerst The Americans, nu Mad Men. Vandaag bekeken functioneren beide dramaseries minder als portretten van de decennia die ze afbeelden, de jaren tachtig en de jaren zestig, dan als spiegels van het moment waarin we ons nog steeds bevinden. Wat mij het meest trof in de aflevering die het tweede seizoen van AMC's door drank gekleurde Madison Avenue-sage afsluit, was een stemming: het gevoel op de vooravond van de ondergang te balanceren, een gewaarwording die inmiddels al 75 jaar en langer voortduurt.

In die aflevering, "Meditations in an Emergency," ziet Don Draper hoe Kennedy op de televisie verschijnt om Sovjetraketten op Cuba aan te kondigen. De personages overwegen waar ze zouden willen zijn mocht de oorlog uitbreken. Joan brengt de burgerverdediging ter sprake; Don wuift het weg. Louter in plottermen verandert de crisis niets — de ene criticus noemde het een slim decor, de ander leest het als een middel dat de personages dwingt te confrontren wat er al in hen zat. Don is net weer opgedoken na een van zijn verdwijningen, en de dreiging van mogelijke annihilatie heeft de eigenschap mensen vreemd te laten doen.

Het debat over AI-veiligheid verschilt inhoudelijk, maar roept dezelfde onrust op die de samenleving sinds de generatie van onze grootouders met zich meedraagt. Wat wordt er van een publiek dat keer op keer hoort dat het einde nabij is?

De kelder van elke generatie

Ik voel het nog van mijn eigen jeugd in de jaren tachtig. De Berlijnse Muur viel toen ik 6 was, en deheid van een nucleaire confrontatie zat in de omliggende cultuur gebakken. Dat hoefde niet zo expliciet als Barry McGuire's "Eve of Destruction." Ik hoorde het in Bob Dylan's "Subterranean Homesick Blues," waarin Johnny in de kelder zit terwijl de verteller op de stoep staat en over de regering nadenkt. Voor mijn gehoor was die kelder een schuilkelder, hoewel de altijd omslachtige Dylan mogelijk juist een ode bracht aan de "underground"-wereld van de Beat-poëzie van de jaren vijftig — de scene die verantwoordelijk is voor ten minste één Jack Kerouac-citaat in elk schooljaarboek.

(The Americans vertrouwde daarentegen veel zwaarder op Peter Gabriel, met name "Games Without Frontiers," waarin het personage "Willy" mogelijk een knipoog is naar West-Duitse bondskanselier Willy Brandt. De titel was de Engelse vertaling van Jeux Sans Frontières, een Europese televisiegameshow waarin teams uit verschillende landen in dwaase kostuums domme opdrachten uitvoerden, met Kate Bush die het Franse zinnetje in de achtergrondzang voor haar rekening nam.)

De Beats putten op hun beurt uit de Franse existentialisten, een stroming die in het tijdperk van de bom afrekende met een goddeloos universum. En Oppenheimer, een van Christopher Nolans bepalende blockbusters van de jaren twintig van deze eeuw, dramatiseert precies het moment waarop die hele cultuur tot stand kwam.

Het is daarom geen verrassing dat een van de invloedrijkste AI-ondergangsverhalen uit de sciencefictioncanon, The Terminator uit 1984, afkomstig is van actiemeester James Cameron, die vaak terugverwijst naar de indruk die als 8-jarige de Cubacrisis zag ontvouwen en de schuilkelderbrochures van zijn vader doorlas. Cameron vertelde Rolling Stone in augustus 2025 dat hij nog steeds vreest voor een Terminator-achtige apocalyps door AI te combineren met wapensystemen — zelfs tot aan het niveau van nucleaire wapensystemen, nucleaire defensietegenaanvallen, dat soort zaken.

Hoeveel van het nieuwste hoofdstuk in de Amerikaanse apocalyps is Cameron's erfenis?

Wie houdt de bom vast

Stanley Kubrick's komedie Dr. Strangelove, or: How I Learned to Stop Worrying and Love the Bomb uit 1964 verbeeldde een huurlinggeneraal die een ongeautoriseerde aanval beveelt terwijl de War Room zich bekwaamt om de catastrofe af te wenden. Zijn grap was dat de machinerie die gebouwd was om het einde te voorkomen het juist kon bezorgen. Digger, dit jaar's Tom Cruise-megabom, lijkt een zelfbewuste poging om de excessieve energie van Dr. Strangelove in een flesje te stoppen — al lijkt het klimaatonderwerp misplaatst, want de echte parallel is kunstmatige intelligentie.

Kevin Roose's nieuwe boek, The AGI Chronicles — AGI staand voor artificial general intelligence, de veronderstelde mijlpaal waarbij AI-systemen op de meeste cognitieve taken aan menselijk vermogen zouden kunnen tippen — schetst Anth-ceo Dario Amodei, wiens bedrijf de Claude-chatbot maakt, als een man die geobsedeerd is door atomaire vragen over risico en gevaar. Amodei gaf vroeger elke nieuwe Anthropic-medewerker een exemplaar van zijn favoriete boek, The Making of the Atomic Bomb. Het boek meldt ook dat Amodei's persoonlijke held Leo Szilard is, de wetenschapper die de nucleaire kettingreactie bedacht — tot zijn eigen afschuw — en later de Einsteinbrief van 1939 aan FDR opstelde die mede leidde tot het Manhattan Project. Is Amodei's Szilard-verering zo oprecht dat hij dezelfde stappen bewust opnieuw afloopt?

Op 12 september publiceerde Amodei een essay van 3.800 woorden getiteld "We Must Pace the Frontier." "We moeten het tempo waarmee we de mogelijkheden van AI-modellen verbeteren vertragen," schreef hij. Hij zei dat de risico's het verlies van controle over AI-systemen omvatten, evenals misbruik voor cyberaanvallen en bioterrorisme, en hij stelde externe monitoring, coördinatie tussen laboratoria en internationale samenwerking voor — een concrete agenda om te meten of waarschuwingen door actie worden gevolgd. Eind september meldde Reuters dat een prospectus voor Anthropic's geplande IPO waarschuwt dat zijn technologie een "catastrofaal risico voor de mensheid" zou kunnen vormgen — een merkwaardige keuze voor een financiële openbaarmaking, gegeven dat de markt niet zou bestaan zonder mensen om haar te runnen.

Cal Newport, columnist van de New Yorker en hoogleraar informatica aan Georgetown, omschreef deze mentaliteit onlangs tegenover Ed Elson in de Prof G Markets-podcast als een "wapen van massale angst." De AI-ondergangsretoriek uit Silicon Valley is volgens hem grotendeels het product van een ideologische gemeenschap die hetzelfde boodschap al 15 jaar herhaalt. In zijn lezing zitten de makers van ChatGPT, OpenAI, Anthropic en hun luidruchtigste critici opgesloten in een "familieruzie" over de vraag of de wereld klaar is voor een AI-"god," en komen veel van hun concepten — waaronder recursieve zelfverbetering — rechtstreeks uit de futuristentheorie in plaats van uit de informatica.

Echte wolven

Om eerlijk te zijn tegenover elke generatie ondergangsprofeten: ze verzonnen het niet allemaal. Janan Ganesh, columnist van de Financial Times, benadrukte dat in een column van 10 oktober getiteld "The danger of pessimism fatigue." De paniek van weleer, schreef hij, "was gebaseerd op grote, concrete gebeurtenissen: Pershing-raketplaatsingen, 9/11, een coronavirus." Hij doorloopt dezelfde schrikbeelden waarmee ik opgroeide: nucleaire annihilatie in de jaren tachtig, daarna al-Qaeda, toen de pandemie. En hij opent met het getal dat boven dit hele debat hangt: een kans van 10%, volgens sommigen in het veld, dat AI tot de uitsterving van de mensheid leidt.

Volgens Ganesh's eigen berekening liep het alarm bijna elke keer vóór op de dreiging. "Het bleek dat de Koude Oorlog eindigde, niet ontvloeide schreef hij. Over al-Qaeda voegde hij toe: "De dreiging was niet verzonnen, maar was ook nooit in de verste verte existentieel."

Er is ook een serieuze redenering dat de AI-wolf in het verkeerde kostuum zit. Arvind Narayanan, hoogleraar informatica aan Princeton die de afdeling Center for Information Technology Policy van de universiteit leidt, schreef een invloedrijk essay met zijn collega Sayash Kapoor getiteld "AI as Normal Technology." Ze beargumenteren dat AI sterk lijkt op eerdere revolutionaire technologieën, wat betekent dat we al een routekaart hebben voor het beheersen ervan.

In Ezra Klein's podcast vorige week, in een aflevering getiteld "Intelligence Isn't Power," debatteerden Narayanan en Klein over de vraag of AI vergelijkbaar is met "elektriciteit, het internet, de fiets" of met "iets dat meer lijkt op een buitenaardse geest." De "zwalmen" van agenten zijn gevaarlijk, stelde Narayanan — maar dat waren computer"wormen," oftewel virussen, in hun tijd ook, en het vergde innovatie om de deksel erop te houden. Men kan het argument doorvoeren naar nucleaire technologie en nucleaire proliferatie.

James Cameron was 8 toen hij Kennedy op de televisie zag. Ik was 6 toen de Muur viel. Ergens hoort een kind van die leeftijd dat de machines de wereld kunnen beëindigen — en hoort het van de mensen die de machines bouwen.

Cameron had 22 jaar nodig om Cuba in Skynet te veranderen, de huurling militaire AI uit de Terminator-films. Kom over 2048 terug. Voor de rest van ons vrees ik dat we opnieuw gewend zullen raken aan het leven onder het spookbeeld van de bom.

Dit verhaal verscheen oorspronkelijk op Fortune.com.