Meine Frau und ich arbeiten uns gerade wieder durch den Kanon des Prestige-Fernsehens – zuerst The Americans, jetzt Mad Men. Betrachtet man beide Serien heute, fungieren sie weniger als Porträts der dargestellten Jahrzehnte – der 1980er und der 1960er – denn als Spiegel unserer eigenen Gegenwart. Was mir im Finale der zweiten Staffel von AMCs whiskeygetränkter Madison-Avenue-Saga am meisten auffiel, war eine Stimmung: das Gefühl, am Vorabend der Zerstörung zu stehen – ein Empfinden, das nun seit 75 Jahren und länger andauert.

In dieser Folge, "Meditations in an Emergency", sieht Don Draper zu, wie Kennedy im Fernsehen die sowjetischen Raketen auf Kuba ankündigt. Die Figuren überlegen, wo sie sein möchten, sollte der Krieg ausbrechen. Joan bringt die zivile Verteidigung zur Sprache; Don wischt sie beiseite. Handlungstechnisch ändert die Krise streng genommen nichts – ein Kritiker nannte sie einen geschickten Hintergrund, ein anderer liest sie als Mittel, das die Figuren mit dem konfrontiert, was bereits in ihnen steckt. Don ist gerade aus einem seiner Verschwindungsakte zurückgekehrt, und die Angst vor möglicher Vernichtung bringt Menschen dazu, seltsame Dinge zu tun.

Die Debatte über KI-Sicherheit unterscheidet sich inhaltlich, ruft jedoch dieselbe Unruhe wach, die unsere Gesellschaft seit der Generation unserer Großeltern begleitet. Was wird aus einer Öffentlichkeit, der immer wieder gesagt wird, das Ende sei nah?

Der Keller jeder Generation

Ich kann mich noch daran erinnern – als kleines Kind in den 1980ern. Die Berliner Mauer fiel, als ich 6 Jahre alt war, und die Möglichkeit einer nuklearen Konfrontation war in der umgebenden Kultur allgegenwärtig. Es bedurfte kaum der Deutlichkeit von BarryGuires "Eve of Destruction". Ich hörte es in Bob Dylans "Subterranean Homesick Blues", wo Johnny im Keller ist und der Erzähler auf dem Bürgersteig steht und über die Regierung nachdenkt. In meinen Ohren war dieser Keller ein Atomschutzraum, auch wenn der stets elliptische Dylan damit womöglich der "Untergrund"-Kultur der Beat-Poesie der 1950er huldigte – der Szene, der jede High-School-Jahrbuch mindestens ein Jack-Kerouac-Zitat verdankt.

(The Americans setzte dagegen deutlich stärker auf Peter Gabriel, namentlich "Games Without Frontiers", dessen Figur "Willy" möglicherweise eine Anspielung auf den westdeutschen Kanzler Willy Brandt ist. Der Titel war die englische Übersetzung von Jeux Sans Frontières, einer europäischen Fernsehsendung, in der Teams aus verschiedenen Ländern in albernen Kostümen verrückte Aufgaben bewältigten; Kate Bush sang die französische Phrase in den Hintergrundsgesängen.)

Die Beats ihrerseits orientierten sich an den französischen Existenzialisten, einer Bewegung, die sich mit einem gottlosen Universum im Zeitalter der Bombe auseinandersetzte. Und Oppenheimer, einer der prägenden Blockbuster Christopher Nolans der 2020er, dramatisiert genau den Moment, in dem diese gesamte Kultur entstand.

Kaum verwunderlich, dass eine der einflussreichsten KI-Untergangserzählungen der Science-Fiction, The Terminator von 1984, vom Action-Regisseur James Cameron stammt, der oft daran erinnert, mit 8 Jahren der Kubakrise zugeschaut zu haben und die Broschüren seines Vaters zu Atomschutzräumen gelesen zu haben. Cameron sagte im August 2025 dem Rolling Stone, er fürchte noch immer eine Terminator-artige Apokalypse, die entsteht, wenn man KI mit Waffensystemen kombiniert – bis hinauf zu Nuklearwaffensystemen, nuklearer Gegenwehr und allem dazugehörigen.

Wie viel des jüngsten Kapitels der amerikanischen Apokalypse ist Camerons Erbe?

Wer hält die Bombe

Stanley Kubricks Komödie Dr. Strangelove or: How I Learned to Stop Worrying and Love the Bomb von 1964 stellte sich einen abtrünnigen General vor, der einen unbefugten Angriff befiehlt, während der Kriegsraum die Katastrophe abzuwenden versucht. Sein Witz: Die Maschinerie, die das Ende verhindern sollte, konnte es auch herbeiführen. Digger, der Tom-Cruise-Megaflop dieses Jahres, scheint ein bewusster Versuch, Dr. Strangeloves überschäumende Energie einzufangen – wobei sein Klimathema verfehlt erscheint, denn die echte Parallele ist die künstliche Intelligenz.

Kevin Roose' neues Buch The AGI Chronicles – AGI steht für artificial general intelligence, die hypothetische Schwelle, an der KI-Systeme menschliche Fähigkeiten in den meisten kognitiven Aufgaben erreichen könnten – zeichnet Anthropic-CEO Dario Amodei, dessen Firma den Chatbot Claude entwickelt, als einen Mann, der besessen von atomaren Fragen des Risikos und der Gefahr ist. Amodei pflegte jedem neuen Anthropic-Mitarbeiter ein Exemplar seines Lieblingsbuchs The Making of the Atomic Bomb zu überreichen. Das Buch berichtet außerdem, dass Amodeis persönlicher Held Leo Szilard ist – der Wissenschaftler, der die nukleare Kettenreaktion ersann (zu seinem eigenen Entsetzen) und später den Einstein-Brief von 1939 an FDR verfasste, der zum Manhattan-Projekt beitrug. Ist Amodeis Szilard-Verehrung so aufrichtig, dass er dieselben Schritte bewusst wiederholt?

Am 12. September veröffentlichte Amodei einen 3.800 Wörter langen Essay mit dem Titel "We Must Pace the Frontier". "Wir müssen das Tempo verlangsamen, in dem wir die Fähigkeiten von KI-Modellen verbessern", schrieb er. Zu den Risiken gehörten laut ihm der Verlust der Kontrolle über KI-Systeme und der Missbrauch für Cyberangriffe und Bioterrorismus; er schlug externe Kontrolle, Koordination zwischen Laboren und internationale Zusammenarbeit vor – ein konkreter Plan, um zu messen, ob Warnungen von Handlungen begleitet werden. Ende September berichtete Reuters über einen Prospekt für Anthropics geplanten Börsengang, der warnt, seine Technologie könne ein "katastrophales Risiko für die Menschheit" darstellen – eine seltsame Wahl für eine finanzielle Offenlegung, wo doch der Markt ohne Menschen nicht existieren würde.

Cal Newport, Kolumnist des New Yorker und Informatikprofessor an der Georgetown University, beschrieb diese Denkweise kürzlich gegenüber Ed Elson im Prof G Markets-Podcast als "Massenvernichtungswaffe der Angst". Die KI-Untergangsrhetorik aus dem Silicon Valley sei größtenteils das Produkt einer ideologischen Gemeinschaft, die seit 15 Jahren dieselbe Botschaft wiederhole. In seiner Erzählung führen OpenAI, Anthropic und ihre lautesten Kritiker einen "Familienstreit" darüber, ob die Welt bereit für einen KI-"Gott" sei, und viele ihrer Konzepte – etwa die rekursive Selbstverbesserung – stammen direkt aus der Futurologie, nicht aus der Informatik.

Echte Wölfe

Um allen Untergangspropheten jeder Generation gerecht zu werden: Sie haben nicht alles erfunden. Janan Ganesh, ein Kolumnist der Financial Times, machte dies in einer Kolumne vom 10. Oktober mit dem Titel "The danger of pessimism fatigue" deutlich. Die Paniken vergangener Tage, schrieb er, "gründeten auf großen, konkreten Ereignissen: Pershing-Raketenstationierungen, 9/11, ein Coronavirus." Er durchläuft dieselben Schreckensszenarien, mit denen ich aufwuchs: nukleare Vernichtung in den 1980ern, dann al-Qaida, dann die Pandemie. Und er eröffnet mit der Zahl, die über dieser gesamten Debatte schwebt: eine 10%ige Wahrscheinlichkeit, dass KI das menschliche Aussterben verursacht – so manche in der Branche.

Nach Ganesh' eigener Rechnung lief die Alarmstimmung jedoch beinahe jedes Mal der Bedrohung voraus. "Am Ende ging der Kalte Krieg zu Ende, statt heiß zu werden", schrieb er, und über al-Qaida: "Die Bedrohung war nicht erfunden, aber sie war auch nie auch nur entfernt existenziell."

Es gibt zudem einen ernstzunehmenden Fall dafür, dass der KI-Wolf das falsche Kostüm trägt. Arvind Narayanan, Informatikprofessor an der Princeton University und Leiter des Center for Information Technology Policy der Universität, verfasste mit seinem Kollegen Sayash Kapoor den einflussreichen Essay "AI as Normal Technology". Sie argumentieren, dass K früheren revolutionären Technologien stark ähnelt, was bedeutet, dass wir bereits eine Blaupause für deren Handhabung haben.

In Ezra Kleins Podcast diskutierten Narayanan und Klein letzte Woche in einer Folge mit dem Titel "Intelligence Isn't Power", ob KI vergleichbar sei mit "Strom, dem Internet, dem Fahrrad" oder eher mit "einem fremden Geist". Die "Schwärme" von Agenten seien gefährlich, argumentierte Narayanan – aber auch Computer-"Würmer", also Viren, waren es zu ihrer Zeit, und es bedurfte Innovation, um sie unter Kontrolle zu halten. Das Argument ließe sich auf Nukleartechnologie und Nuklearproliferation ausdehnen.

James Cameron war 8, als er Kennedy im Fernsehen sah. Ich war 6, als die Mauer fiel. Irgendwo hört gerade ein Kind dieses Alters, dass die Maschinen die Welt beenden könnten – und hört es von den Menschen, die die Maschinen bauen.

Cameron brauchte 22 Jahre, um Kuba in Skynet zu verwandeln. Kommen wir 2048 zurück. Für den Rest von uns, so fürchte ich, werden wir uns wieder an das Leben im Schatten der Bombe gewöhnen.

Diese Geschichte erschien ursprünglich auf Fortune.com.