妻と私は prestige-TV の名作を見返している。まず『ザ・アメリカンズ』、そして現在は『マッドメン』だ。今日見ると、どちらの作品も描かれる時代である1980年代や1960年代の肖像というよりも、私たちが今も置かれている瞬間を映す鏡として機能している。AMCのマディソン・アベニューを舞台にした酒浸りのサーガのシーズン2最終回で最も印象に残ったのは、ある種のムードだった。すなわち、破壊の前夜に立っているという感覚であり、その感覚はすでに75年間、今も続いている。

そのエピソード「Meditations in an Emergency」で、ドン・ドレイパーは、キューバにおけるソ連のミサイルをケネディがテレビで発表するのを見ている。登場人物たちは、戦争が起きた場合にどこにいたいかを考え込む。ジョーンは民間防衛に触れるが、ドンはそれを軽く流す。プロットの観点から見れば、この危機は何も変えていないと考える批評家もいれば、登場人物たちがすでに内に抱えていたものと向き合う装置だと読み解く批評家もいる。ドンはある「失踪」から戻ったばかりで、全滅の可能性への恐怖は人を奇妙な行動に駆り立てるものだ。

AIの安全性をめぐる議論は、その実態は異なるものの、祖父母の世代以来、社会が振り払えできなかったのと同じ不安を呼び起こす。終わりが近いと何度も告げられる社会に何が起こるのだろうか。

世代ごとの地下室

私自身、1980年代の子ども時代その感覚を覚えている。私が6歳の時にベルリンの壁は崩壊したが、核対決の可能性は周囲の文化に浸透していた。それはバリー・マグワイアの「Eve of Destruction」ほど露骨である必要はなかった。ボブ・ディランの「Subterranean Homesick Blues」でもそれを感じ取っていた。そこではジョニーは地下室におり、語り手は歩道に立って政府について考えている。私の耳には、その地下室は核シェルターに聞こえたが、常に曖昧なディランは、むしろ1950年代のビート詩の「アンダーグラウンド」文化に敬意を払っていたのかもしれない。どの高校の卒業アルバムにも少なくとも一つのジャック・ケルアックの引用が入る原因を作ったのがそのシーンだ。

(対照的に、『ザ・アメリカンズ』のサウンドトラックはピーター・ガブリエルの色が濃く、特に「Games Without Frontiers」の使用が顕著で、「ウィリー」という名の登場人物は、西ドイツのヴィリー・ブラント首相にちなんでいる可能性がある。この曲のタイトルは、ヨーロッパのテレビ番組『Jeux Sans Frontières』の英語訳で、各国のチームが滑稽な衣装でへんてこな競技に挑む番組だった。バックコーラスではケイト・ブッシュがフランス語のフレーズを歌っている。)

ビート世代は、さらにその源をフランスの実存主義者たちに求めた。核の時代において神なき宇宙と向き合おうとした運動だ。そして2020年代を代表する大作の一つ、クリストファー・ノーランの『オッペンハイマー』は、まさにその文化全体が誕生した瞬間を劇的に描いている。

当然のことながら、SFの最も影響力あるAI終末物語の一つである1984年の『ターミネーター』を生み出したのは、アクションの巨匠ジェームズ・キャメロンだ。彼はしばしば、8歳でキューバ危機が展開するのを見届け、父の核シェルターのパンフレットを読みふけった経験の影響に言及している。(キャメロンは2025年8月に『ローリング・ストーン』誌に、AIを武器システム、さらには核兵器システムや核防御の反撃まで組み合わせた『ターミネーター』型の黙示録を今も恐れていると語っている。)

アメリカ的黙示録の最新章に、キャメロンの思想がどれほど影を落としているのだろうか。

誰が爆弾を握っているのか

スタンリー・キューブリック監督の1964年のコメディ『博士の異常な愛情 または私は如何にして心配するのを止めて水爆を愛するようになったか』は、暴走した将軍が無許可の攻撃を命じ、その間に戦争室が破滅を回避と奔走する様子を描いた。そのジョークの核心は、終わりを防ぐために作られた機構こそが、終わりをもたらしうるという点にあった。今年公開のトム・クルーズ主演の大作『ディガー』は、『博士の異常な愛情』の過剰なエネルギーを自意識的に瓶詰めにしようとした試みに見える。ただし、その題材が気候変動である点は的外れかもしれない。真の parallel は人工知能なのだから。

ケビン・ルーズの新著『The AGI Chronicles』(AGIは汎用人工知能の略で、AIシステムがほとんどの認知タスクで人間の能力に匹敵しうる仮説上の節目を指す)は、Claudeチャットボットを手がけるAnthropicのCEOダリオ・アモーディを、リスクと危険という原子的な問いに取り憑かれた人物として描いている。アモーディは以前、新しいAnthropicの社員に自分の愛読書『The Making of the Atomic Bomb』を一冊ずつ手渡していたという。同書によれば、アモーディの個人的な英雄はレオ・シラードだ。核連鎖反応(自らの恐怖の対象でもあった)を着想した科学者であり、後には1939年のアインシュタインからルーズベルト大統領への手紙を起草し、マンハッタン計画へとつながる一助となった人物だ。アモーディのシラードへの傾倒が本物すぎて、彼は同じ足跡を自覚的にたどっているのではないだろうか。

9月12日、アモーディは「We Must Pace the Frontier」と題する3800語のエッセイを発表した。「我々はAIモデルの能力を向上させる速度を遅めなければならない」と彼は書いた。リスクにはAIシステムの制御の喪失や、サイバー攻撃やバイオテロへの悪用が含まれるとし、外部モニタリング、研究機関間の協調、国際協力を提案した。9月下旬、ReutersはAnthropicの計画中のIPO目論見書について、同社の技術が人類にとって「壊滅的または実存的リスク」をもたらしうると警告していると報じた。人間が運営しなければ市場自体が存在しない以上、財務開示として奇妙な選択だ。

『ニューヨーカー』誌のコラムニストでジョージタウン大学のコンピュータサイエンス教授であるカル・ニューポートは、最近、Prof G Marketsのポッドキャストでエド・エルソンに対し、この考え方を「大量破壊級の不安」と呼んだ。シリコンバレーから発せられるAI終末論は、同じことを15年間繰り返してきた思想的コミュニティの産物が大半だと彼は論じる。彼の説明によれば、ChatGPTの開発元OpenAI、Anthropic、そして彼らの最も声の大きい批評家たちは、世界がAIの「神」を受け入れる準備ができているかどうかをめぐる「家族喧嘩」に巻き込まれており、再帰的自己改善をはじめとする彼らの概念の多くは、コンピュータサイエンスではなく未来学の理論から来ているという。

本物の狼

各世代の終末論者にを期すなら、彼らがすべてをでっち上げたわけではない。私が敬愛し、頻繁に読んでいる『フィナンシャル・タイムズ』のコラムニスト、ジャナン・ガネシュは、10月10日のコラム「The danger of pessimism fatigue」でこの点を指摘した。かつてのパニックは、「パーシング・ミサイルの配備、9/11、コロナウイルスといった大きな具体的な出来事に根ざしていた」と彼は書いた。彼は私が育ったのと同じ恐怖の連鎖をたどる。1980年代の核による全滅、次にアルカイダ、そしてパンデミックだ。そして彼は、この議論全体に影を落とす数字で書き出している。一部の専門家によれば、AIが人類を絶滅させる確率は10%だという。

ただしガネシュ自身の計算では、警報はほぼ毎回、脅威そのものを上回っていた。「冷戦は熱化するどころか、終わろうとしていたことが判明した」と彼は書き、アルカイダについては「脅威は捏造されたものではなかったが、実存的なものでは決してなかった」と付け加えた。

AIという狼が間違った衣装をまとっているという、もっともな見方もある。プリンストン大学のコンピュータサイエンス教授で、同大学の情報技術政策センター長を務めるアーヴィンド・ナラヤナンは、同僚のサヤシュ・カプーアとの共著で影響力あるエッセイ「AI as Normal Technology」を発表した。彼らは、AIが以前の革命的技术に非常によく似ており、したがって管理のための道筋はすでにあると論じる。

先週、エズラ・クラインのポッドキャストで「Intelligence Isn't Power」と題されたエピソードにおいて、ナラヤナンとクラインは、AIが「電気、インターネット、自転車」に comparable なのか、それとも「もっと異質な心」に近いのかを論じた。「群れ」をなすエージェントは危険だが、ナラヤナンが言うように、かつてのコンピュータの「ワーム」やウイルスも同様に危険であり、それらを封じ込めるには革新が必要だった。この議論は、核技術や核拡散にも応用できるかもしれない。

ジェームズ・キャメロンは8歳でテレビのケネディを見ていた。私は6歳で壁の崩壊を迎えた。どこかで、同じ年頃の子どもが、機械が世界を終わらせるかもしれないと聞いている。しかも、その機械を作っている人たちから聞いているのだ。

キャメロンはキューバを『ターミネーター』映画の暴走軍事AIスカイネットに変えるまでに22年を要した。2048年にもう一度確かめてみよう。残りの私たちにとって恐ろしいのは、再び爆弾の亡霊の下での生活にれてしまうことかもしれない。

この記事はもともと Fortune.com に掲載されたものです。