我與妻子近來重溫優質電視經典——先是《美國諜夢》，現在則是《廣告狂人》。以今天的眼光來看，這兩部時代劇與其說是描繪它們所處的1980年代與1960年代，不如說更像映照出我們此刻仍身處的時代的鏡子。在AMC這部以酒澆愁的麥迪遜大道史詩第二季完結篇中，最觸動我的是一種氛圍：彷彿置身毀滅前夜之感——而這種感受已持續了75年且仍在延續。

在該集「Meditations in an Emergency」中，Don Draper看著甘迺迪在電視上宣布蘇聯飛彈部署於古巴。劇中人物盤算著若戰爭爆發，自己想身在何處。Joan提起民防，Don卻不以為意。就劇情而言，這場危機可說什麼都沒改變——有影評稱其為巧妙的背景，也有影評認為它是迫使角色直面內心早已存在之物的手法。Don剛結束又一次的消失重返人前，而可能遭殲滅的恐懼，往往會讓人做出奇怪的事。

AI安全辯論在實質上有所不同，但它喚起的，是自祖父母那一代以來社會始終未能擺脫的不安。當一個社會被一次又一次地告知末日將至，會變成什麼樣子？

每個世代都有防空洞

即使在我1980年代的童年，我仍能感受到這種氛圍。柏林圍牆倒塌時我6歲，核子對峙的可能性早已滲入周遭文化。這不必像Barry McGuire的「Eve of Destruction」那樣直白。我在巴布・狄倫的「Subterraneanick Blues」裡聽見了它——Johnny待在地下室，敘事者站在人行道上，想著政府。在我的耳中，那個地下室是一座防空避難所，儘管向來隱晦的狄倫，或許是在向1950年代「垮掉派」詩歌的「地下」文化致敬——那個讓每本高中畢業紀念冊裡都至少出現一句傑克・凱魯亞克語錄的文化。

（相較之下，《美國諜夢》的配樂則帶有濃厚的Peter Gabriel色彩，尤其是「Games Without Frontiers」，劇中名為「Willy」的角色或許是向西德總理Willy Brandt致意。該曲標題是歐洲電視競賽節目《Jeux Sans Frontières》的英文譯名，來自各國的隊伍穿著滑稽服裝比賽荒誕任務，和聲部分則由Kate Bush演唱那句法語。）

垮掉派本身則取法法國存在主義者——一個在原子時代思索無神宇宙的思潮。而克里斯多福・諾蘭2020年代的代表作之一《奧本海默》，正是將這整個文化誕生的那一刻搬上大銀幕。

難怪科幻史上最具影響力的AI末日敘事之一——1984年的《魔鬼終結者》——出自動作片大師詹姆斯・卡麥隆之手。他常提到，古巴飛彈危機爆發時他年僅8歲，並閱讀了父親的防空洞手冊，這些經歷影響深遠。卡麥隆在2025年8月告訴《Rolling Stone》，他仍恐懼將AI與武器系統結合會引發《魔鬼終結者》式的末日——甚至上升到核武系統、核子防禦反擊等等層面。

美國末日敘事的最新篇章，有多少是卡麥隆的遺產？

誰握著炸彈

史丹利・庫伯力克1964年的喜劇《奇愛博士，或：我是如何學會停止憂慮並愛上炸彈》，描繪了一名叛變將軍下令未經授權的攻擊，戰情室則手忙腳亂地設法阻止災難。其笑點在於：本用以防止末日的機器，卻可能親手帶來末日。今年湯姆・克魯斯的大製作《Digger》，似乎是自覺地想重現《奇愛博士》那種誇張的能量——不過它以氣候為主題似乎放錯了重點，真正的對應其實是人工智慧。

凱文・魯斯的新書《The AGI Chronicles》——AGI即「通用人工智慧」，指AI系統在多數認知任務上可媲美人類的假設性里程碑——描繪出Anthropic執行長Dario Amodei（其公司開發Claude聊天機器人）是一痴迷於風險與危險等原子級問題的人。Amodei過去會送每位新進Anthropic員工一本他最愛的書《The Making of the Atomic Bomb》。書中也寫道，Amodei的個人偶像是Leo Szilard——這位構思出核連鎖反應（令他自己深感恐懼）的科學家，後來起草了1939年愛因斯坦致羅斯福總統的信，間接促成曼哈頓計畫。Amodei對Szilard的崇拜，是否真誠到讓他自覺地重複著同樣的腳步？

9月12日，Amodei發表了一篇3800字的文章〈We Must Pace the Frontier〉。「我們必須放慢提升AI模型能力的腳步，」他寫道。他表示風險包括失去對AI系統的控制，以及遭用於網路攻擊與生物恐怖主義，並提出外部監督、實驗室之間的協調與國際合作——一份用以檢驗警告是否轉化為行動的具體議程。9月下旬，路透社報導了Anthropic計劃IPO的招股書，其中警告其技術可能對人類構成「災難性風險」——這在財務揭露中是個奇怪的選擇，畢竟若沒有人類來運作，市場根本不存在。

《紐約客》專欄作家、喬治城大學電腦科學教授Cal Newport，最近在《Prof G Markets》播客上向Ed Elson形容這種心態是一種「大規模焦慮武器」。他主張，矽谷的AI末日言論，很大程度上是一個意識形態群體的產物，而這個群體15年來一直在重複同樣的訊息。在他的描述中，ChatGPT開發商OpenAI、Anthropic與其最大聲的批評者，正陷入一場關於世界是否已準備好迎接AI「神」的「家庭爭吵」，而他們的許多概念——包括遞迴自我改進——都直接來自未來學理論，而非電腦科學。

真實的狼

公平地說，每個世代散播末日論的人並非全然憑空捏造。我經常閱讀並欽佩的《金融時報》專欄作家Janan Ganesh，在10月10日題為〈The danger of pessimism fatigue〉的專欄中提出了這一點。他寫道，昔日的恐慌「皆奠基於重大而具體的事件：潘興飛彈部署、9/11、一場冠狀病毒」。他逐一檢視我成長過程中的種種驚恐：1980年代的核毀滅，然後是蓋達組織，再來是疫情。而他以一個籠罩整場辯論的數字開場：據某些業內人士估計，AI造成人類滅絕的機率為10%。

不過，照Ganesh自己的說法，警報幾乎每次都跑在了威脅前面。「結果證明冷戰是在走向終結，而非走向熱戰，」他寫道。至於蓋達組織，他補充：「這項威脅並非憑空捏造，但也從來算不上什麼存亡級脅。」

也有一個嚴肅的論點認為，AI這匹狼其實穿錯了戲服。普林斯頓大學電腦科學教授、該校資訊科技政策中心主任Arvind Narayanan，與同事Sayash Kapoor合寫了一篇極具影響力的文章〈AI as Normal Technology〉。他們主張，AI與先前的革命性科技非常相似，這意味著我們其實已有一套管理它的路線圖。

上週在Ezra Klein的播客中，在一集題為「Intelligence Isn't Power」的節目裡，Narayanan與Klein辯論AI究竟可比擬於「電力、網際網路、自行車」，還是「更像是某種外星心智」。Narayanan認為，成群結隊的AI代理確實危險，但電腦「蠕蟲」與病毒在當年也同樣危險，而人們是靠創新才將其壓制。同樣的論點也可延伸至核子技術與核擴散。

詹姆斯・卡麥隆在電視上看到甘迺迪時是8歲。柏林圍牆倒塌時我是6歲。此刻，某個同齡的孩子正聽說機器可能終結世界——而告訴他這件事的，正是打造那些機器的人。

卡麥隆花了22年才把古巴危機變成Skynet——《魔鬼終結者》系列中的失控軍事AI。2048年再見分曉。至於我們其他人，我恐怕我們將再次習慣於在炸彈陰影下的生活。

本文最初刊載於 Fortune.com。