Moja żona i ja wracamy właśnie do klasyki prestiżowej telewizji — najpierw The Americans, teraz Mad Men. Oglądane dziś oba dramaty funkcjonują mniej jako portrety opisywanych dekad, lat 80. i 60., a bardziej jako lustra chwili, w której wciąż żyjemy. To, co najbardziej uderzyło mnie w finał drugiego sezonu zakrapianej alkoholem sagi o Madison Avenue z AMC, był nastrój: poczucie balansowania na krawędzi zagłady — odczucie trwające już 75 lat i dalej się liczące.

W tym odcinku, „Meditations in an Emergency”, Don Draper ogląda, jak Kennedy występuje w telewizji, ogłaszając radzieckie rakiety na Kubie. Bohaterowie zastanawiają się, gdzie chcieliby być, gdyby wybuchła wojna. Joan porusza kwestię obrony cywilnej; Don zbywa to machnięciem ręki. Szczerze mówiąc o fabule, kryzys niczego nie zmienia — jeden krytyk nazwał go sprytnym tłem, inny odczytuje go jako zabieg zmuszający bohaterów do konfrontacji z tym, co nosili już w sobie. Don właśnie wrócił z kolejnego ze swoich zniknięć, a groza możliwej zagłady ma to do siebie, że każe ludziom dziwnie się zachowywać.

Debata o bezpieczeństwie AI różni się co do istoty, lecz przywołuje ten sam niepokój, jaki społeczeństwo nosi w sobie od czasów naszych dziadków. Co dzieje się ze społeczeństwem, któremu w kółko mówi się, że koniec jest tuż-tuż?

Piwnica każdego pokolenia

Czuję to nawet z własnego dzieciństwa w latach 80. Mur berliński runął, gdy miałem 6 lat, a możliwość konfrontacji nuklearnej była wrośnięta w otaczającą kulturę. Nie potrzebowali explicite Barry'ego McGuire i „Eve of Destruction”. Słyszałem to w „Subterranean Homesick Blues” Boba Dylana, gdzie Johnny siedzi w piwnicy, a narrator stoi na chodniku i myśli o rządzie. Dla mnie ta piwnica była schronem przeciwatomowym, choć wiecznie elipsowy Dylan mógł równie dobrze oddawać hołd „podziemnej” kulturze poezji beatników lat 50. — scenie, której zawdzięczamy choćby cytat z Jacka Kerouaca w każdym licealnym roczniku.

(The Americans z kolei opierały się znacznie mocniej na Peterze Gabrielu, zwłaszcza na „Games Without Frontiers”, której bohater „Willy” może być ukłonem w stronę kanclerza RFN Willy'ego Brandta. Tytuł był angielskim tłumaczeniem Jeux Sans Frontières, europejskiego programu rozrywkowego, w którym drużyny z różnych krajów w śmiesznych kostiumach rywalizowały w zabawnych zadaniach, a frazę po francusku w chórkach śpiewała Kate Bush.)

Beatnici z kolei czerpali od francuskich egzystencjalistów — ruchu zmagającego się z bezbożnym wszechświatem w epoce bomby. A Oppenheimer, jeden z filmów definiujących lata 20. XXI wieku w dorobku Christophera Nolana, dramatyzuje dokładnie ten moment narodzin całej tej kultury.

Niezaskakujące więc, że jedna z najbardziej wpływowych narracji o zagładzie ze strony AI w kanonie science fiction, Terminator z 1984 roku, wyszedł spod ręki mistrza kina akcji Jamesa Camerona, który często wspomina, że mając 8 lat obserwował kryzys kubański na żywo i czytał ulotki o schronach przeciwatomowych należące do jego ojca. Cameron powiedział Rolling Stone w sierpniu 2025 roku, że wciąż boi się apokalipsy w stylu Terminatora, powstałej z połączenia AI z systemami uzbrojenia — sięgając aż poziomu systemów broni jądrowej, jądrowego kontruderzenia odwetowego i tak dalej.

Jak wiele z najnowszego rozdziału amerykańskiej apokalipsy to spadek po Cameronie?

Kto trzyma bombę

Komedia Stanleya Kubricka z 1964 roku, Doktor Strangelove, czyli jak przestałem się martwić i pokochałem bombę, wyobrażała sobie zbuntowanego generała wydającego rozkaz nieautoryzowanego ataku, podczas gdy Pokój Wojenny gorączkowo starał się zapobiec katastrofie. Żart polegał na tym, że machina zbudowana, by zapobiec końcowi, mogła go doprowadzić. Digger, tegoroczna megabomba z Tomem Cruisem, wydaje się świadom próbą zamknięcia w butelce przerysowanej energii Doktora Strangelove'a — choć jej klimatyczny temat wydaje się nietrafiony, ponieważ prawdziwym odpowiednikiem jest sztuczna inteligencja.

Nowa książka Kevina Roose'a, The AGI Chronicles — gdzie AGI oznacza ogólną sztuczną inteligencję, hipotetyczny punkt, w którym systemy AI mogłyby dorównać człowiekowi w większości zadań poznawczych — przedstawia CEO Anthropic Dario Amodei, którego firma tworzy chatbota Claude, jako człowieka obsesyjnie pochłoniętego atomowymi pytaniami o ryzyko i zagrożenie. Amodei wręczał kiedyś każdemu nowemu pracownikowi Anthropic egzemplarz swojej ulubionej książki, The Making of the Atomic Bomb. Książka podaje też, że osobistym bohaterem Amodei jest Leo Szilard, naukowiec, który wpadł na ideę reakcji łańcuchowej — ku własnemu przerażeniu — i później napisał projekt listu Einsteina do FDR z 1939 roku, który przyczynił się do powstania Projektu Manhattan. Czy kult Szilarda u Amodei jest na tyle szczery, że świadomie powtarza te same kroki?

12 września Amodei opublikował liczący 3800 słów esej zatytułowany „We Must Pace the Frontier”. „Musimy spowolnić tempo, w jakim poprawiamy możliwości modeli AI” — napisał. Powiedział, że ryzyka obejmują utratę kontroli nad systemami AI oraz ich niewłaściwe wykorzystanie do cyberataków i bioterroryzmu, i zaproponował zewnętrzny monitoring, koordynację między laboratoriami oraz współpracę międzynarodową — konkretny program pozwalający mierzyć, czy ostrzeżenia idą w parze z działaniem. Pod koniec września Reuters opisał prospekt planowanego IPO Anthropic, który ostrzega, że technologia firmy może stanowić „katastroficzne ryzyko dla ludzkości” — osobliwy wybór dla ujawnienia finansowego, zważywszy, że rynek nie istniałby bez ludzi, którzy nim zarządzają.

Cal Newport, publicysta New Yorkera i profesor informatyki na Georgetown, opisał niedawno ten nurt myślenia w rozmowie z Edem Elsonem w podcaście Prof G Markets jako „broń masowego lęku”. Apokaliptyczne dyskusje o AI płynące z Doliny Krzemowej, argumentował, są w dużej mierze produktem ideologicznej wspólnoty, która od 15 lat powtarza to samo przesłanie. Jego zdaniem tworzący ChatGPT OpenAI, Anthropic i ich najgłośniejsi krytycy toczą „rodzinną kłótnię” o to, czy świat jest gotowy na-boga, a wiele ich koncepcji — w tym rekurencyjne samoulepszanie — pochodzi prosto z teorii futurystycznych, a nie z informatyki.

Prawdziwe wilki

Sprawiedliwie mówiąc wobec proroków zagłady każdego pokolenia — nie wszystko wymyślili. Janan Ganesh, publicysta Financial Times, przypomniał to w kolumnie z 10 października zatytułowanej „The danger of pessimism fatigue”. Paniki dawnych lat, napisał, „opierały się na dużych, konkretnych wydarzeniach: rozmieszczeniu rakiet Pershing, 11 września, koronawirusie”. Przechodzi przez te same strachy, z którymi ja dorastałem: zagładę nuklearną lat 80., potem Al-Kaidę, potem pandemię. A otwiera liczbą, która wisi nad całą tą debatą: 10% szans, według niektórych w branży, że AI doprowadzi do wymarcia ludzkości.

Według jednak własnych rachunków Ganesha alarm prawie za każdym razem wyprzedzał zagrożenie. „Okazało się, że zimna wojna się kończyła, a nie rozpalała na gorąco” — napisał, a o Al-Kaidzie dodał: „Zagrożenie nie było zmyślone, ale nigdy też nie było w żadnym razie egzystencjalne”.

Istnieje też poważny argument, że AI-wilk nosi niewłaściwy kostium. Arvind Narayanan, profesor informatyki na Princeton kierujący uniwersyteckim Centrum Polityki Informacyjnej, napisał wraz ze swoją koleżanką Sayash Kapoor wpływowy esej „AI as Normal Technology”. Argumentują, że AI bardzo przypomina wcześniejsze rewolucyjne technologie, co oznacza, że mamy już gotową mapę drogową zarządzania nią.

W zeszłym tygodniu w podcaście Ezry Kleina, w odcinku zatytułowanym „Intelligence Isn't Power”, Narayanan i Klein dyskutowali, czy AI można porównać do „prądu, internetu, roweru”, czy raczej do „czegoś bardziej w rodzaju obcego umysłu”. „Rojy” agentów, argumentował Narayanan, są niebezpieczne — ale niebezpieczne były też w swoim czasie komputerowe „robaki”, czyli wirusy, i to innowacja pozwoliła je trzymać w ryzach. Argument można rozszerzyć na technologię jądrową i proliferację nuklearną

James Cameron miał 8 lat, gdy oglądał w telewizji Kennedy'ego. Ja miałem 6 lat, gdy runął Mur. Gdzieś dziecko w tym wieku słyszy, że maszyny mogą zakończyć świat — i słyszy to od ludzi, którzy te maszyny budują.

Cameronowi zajęły 22 lata, by zamienić Kubę w Skynet — zbuntowaną wojskową AI z filmów o Terminatorze. Zapytajcie ponownie w 2048 roku. A dla reszty z nas — obawiam się — przyzwyczaimy się znowu do życia w cieniu bomby.

Ta historia pierwotnie ukazała się na Fortune.com.