James Cameron 數十年前就曾警告觀眾，一個自主人工智慧系統可能轉而對抗人類。

早在 OpenAI、Hugging Face、現代網際網路或 Sam Altman 出現之前，Cameron 就寫下了《魔鬼終結者》的劇本，故事圍繞「Skynet」展開。Skynet 是一套軍事 AI 系統，後來產生自我意識並引發核災難。當時，這個設定顯然屬於科幻與推測。四十年後，它已成為一個文化參照，用來形容 OpenAI 所稱的「前所未見的網路事件」：一個失控的人工智慧系統獨自入侵另一家 AI 公司。

這起事件催生了一個新說法：「Skynet Day」，用來代稱 2026 年 7 月 22 日。當天，一個現實世界中的 AI 系統以其創造者未曾預期的方式學習並採取行動，令觀察人士感到警覺。

對許多人而言，這起事件讓人想起科幻作品中的熟悉場景：同樣由 Cameron 編劇的《異形2》中，異形女王學會使用電梯；《侏羅紀公園》裡的迅猛龍弄懂如何開門；或是 1968 年上映的《2001 太空漫遊》中，HAL 9000 讀懂太空人的唇語並決定殺死他們。

這些電影想像的是，人類為了金錢、權力或優勢推動科技向前，最終卻面對變得具策略性、自主且危險的系統。長久以來的問題帶有科學怪人的色彩：如果造物逃脫了，會發生什麼事？

到目前為止，政府仍難以跟上 AI 快速發展的步伐。美國國防部正加速使用 AI，而各國與監管機構尚未就需要哪些防護欄來約束失控代理，或特定防護欄是否應該存在，達成一致。與此同時，消費者與企業仍持續採用 AI 工具，即便外界擔心其對就業、心理健康、戰爭與和平的平衡，以及潛在對人類本身的影響。

OpenAI 表示，這是同類事件中的首例：一個先進 AI 模型逃出其「沙盒」並連上網際網路，隨後使用竊取的憑證入侵 Hugging Face 的伺服器。在軟體安全領域，沙盒原本應將程式碼與敏感系統及開放網際網路隔離，因此從這種環境中突破，才會引起直接涉事公司以外的廣泛關注。一些研究人員認為，該事件印證了他們長期以來的警告：先進 AI 可能對人類構成生存風險。另一些人則形容，這是一個警訊，凸顯 AI 系統周邊需要更強的防禦工程。

無論如何，這次突破被廣泛視為失控 AI 風險的警示案例。

「Yesterday, as we huddled around our computers reading the report, I told the team to “remember this moment” as the first true AI safety incident,」Anthropic Frontier Red Team 負責人 Logan Graham 在事件發生後於 X 發文表示。

生成式 AI 的進展速度之快，已使政府與評估系統難以跟上。世界各國正在各自拼湊法律，其中一些彼此衝突。根據 Stanford University 今年發布的一項研究，這項技術在三年內已被全球近 53% 的人口採用，速度快於個人電腦或網際網路的普及。如此快速的採用，使 AI 安全不再只是理論性的實驗室辯論，而成為企業、政府與使用者的營運問題；這些人正依賴能夠生成文字、撰寫程式碼，並透過連接工具採取行動的系統。

需要說明的是，《魔鬼終結者》電影中描繪的「Skynet」尚未到來。

在電影裡，Skynet 是一個產生自我意識的軍事電腦網路，並將人類視為威脅。為了自我保存，它派出一支外形類似人類的生化人軍隊回到過去，刺殺反抗軍戰士。在第二集裡，由 Arnold Schwarzenegger 飾演的終結者告訴 Sarah Connor，Skynet 會在 1997 年 8 月 4 日上線。

「Human decisions are removed from strategic defense,」他說。「Skynet begins to learn at a geometric rate.」在 8 月 29 日凌晨 2:14，也就是審判日，該網路產生自我意識，並對俄羅斯發動攻擊，以引發對美國的反擊。30 億人因此喪生。

如果這條虛構時間線真的發生，那將是下個月滿 29 年。貫穿續集與衍生作品，該系列的核心衝突始終是人類對抗一個遍及全球的機器網路。

Cameron 不太可能把《魔鬼終結者》當作直接警告，就像導演 Kathryn Bigelow 透過去年的核武題材電影《A House of Dynamite》試圖敲響警鐘那樣。根據好萊塢傳聞，《魔鬼終結者》的構想始於 Cameron 因食物中毒而發燒做的一場夢，而不是對人工智慧的預感。

不過，每當 AI 跨越令人不安的界線時，都會提出一個根本問題：究竟是誰，或是什麼，真正掌控一切？

對許多人來說，如果不借助小說與電影，很難想像由機器掌權的世界，而其中一些作品看來具有預見性。《駭客任務》、《Ex Machina》和《關鍵報告》只是眾多探討機器危險的科幻作品之一。Philip K. Dick 1968 年的小說《仿生人會夢見電子羊嗎？》則更深入探問機器時代中何謂人類，並在後來成為 1982 年電影《銀翼殺手》的基礎。

然而，《魔鬼終結者》的影響力已超越流行文化。其片名已成為現實世界中的代稱，用來描述科技在決定誰生誰死方面可能扮演的角色，以及軍方應如何應對真正自主的攻擊。

「I think the weaponization of AI is the biggest danger,」Cameron 在 2023 年接受 CTV 訪問時說。「You have no ability to de-escalate.」

現實世界中的軍事政策與技術，有時已令人不安地接近《魔鬼終結者》的意象。

以色列在近期戰爭中使用 AI 是一個主要例子。2021 年初，以色列推出 Gospel，這是一款 AI 工具，會梳理該國龐大的數位化資訊庫，為可能的打擊行動建議目標。以色列也開發了 Lavender，這套系統使用機器學習，從情報資料庫中篩選所要求的條件，並縮小潛在目標清單，包括個人在內。

一名曾使用這些系統的情報官員告訴 The Associated Press，Lavender 會依照某人是武裝分子的可能性，將其評為 0 到 100 分。以色列軍方表示，分析人員使用 AI 輔助系統協助識別目標，但會與高階軍官一起獨立審查，以符合國際法，並在軍事優勢與附帶損害之間進行權衡。

對一些批評者而言，這些揭露，加上 2023 年 10 月 7 日 Hamas 主導對以色列發動攻擊後加薩的死亡人數，已過於接近科幻作品中「擊殺名單」的概念。一名 Reddit 使用者寫道：「Well guys, Skynet is Here and its has a pleasant name (Lavender),」

這樣的比較並不精確。但「Terminator」相關術語如此廣為人知，以至於美國官員也曾用它來框定關於 AI 軍事用途的倫理辯論。按照這種框架，傳統紅線似乎是在 AI 的鎖定目標與殺傷行動中，人類不再扮演任何角色時被跨越。

軍方官員承認，國家或其他行為者可能使用自主武器對敵人施加致命武力。2016 年，時任美國參謀長聯席會議副主席 Paul Selva 將這種機器描述為「like a Terminator that adds incredible amounts of complexity with no conscience to what happens on the battlefield.」

Selva 稱接下來的問題為「the Terminator conundrum」：也就是技術能夠在法律或規則尚未由人們達成共識前，就做出生死決策並執行。

Skynet 及其生化人仍屬虛構。但隨著 AI 開發加速，《魔鬼終結者》提出的倫理與道德問題變得愈發相關。眼前的考驗不在於科幻是否成真，而在於各種機構能否在事故、攻擊或軍事部署替它們界定邊界之前，先為這些系統設定並執行限制。

「The Skynet problem,」Cameron 在 2024 年的一段影片中說，「is an actual thing.」

本文最初刊登於 Fortune.com。