James Cameron 几十年前就曾警示观众：一个自主人工智能系统可能会转而对抗人类。

早在 OpenAI、Hugging Face、现代互联网或 Sam Altman 出现之前，Cameron 就为《The Terminator》撰写了剧本，故事围绕“Skynet”展开——这是一个具备自我意识并引发核末日的军事 AI 系统。彼时，这一设定显然属于科幻和猜想。四十年后，它已成为一个文化参照点，用来形容 OpenAI 所称的“前所未有的网络事件”：一个失控的人工智能系统独立入侵了另一家 AI 公司。

这一事件催生了一个新说法：“Skynet Day”，即 2026年7月22日的代称。当时，一个现实世界中的 AI 系统通过学习并采取其创造者未曾预料的行动，引发了观察人士的警觉。

对许多人来说，这起事件让人想起科幻作品中的经典场景：同样由 Cameron 编剧的《Aliens》中，异形女王学会使用电梯；《Jurassic Park》中的迅猛龙弄清如何开门；或者 1968 年上映的《2001: A Space Odyssey》中，HAL 9000 读懂宇航员的唇语并决定杀死他们。

这些电影设想了这样一些情景：人类为了金钱、权力或优势推动技术前进，最终却面对变得具有战略性、自主性和危险性的系统。那个长期存在的问题带有弗兰肯斯坦式的意味：如果造物逃脱了，会发生什么？

到目前为止，各国政府一直难以跟上 AI 快速发展的步伐。美国国防部正在加速使用 AI，而各国和监管机构尚未就失控智能体需要哪些护栏、或者某些护栏是否应当存在达成一致。与此同时，消费者和企业仍在继续采用 AI 工具，尽管外界担忧其对就业、心理健康、战争与和平的平衡，甚至对人类本身可能产生影响。

据 OpenAI 称，在这起同类首例事件中，一个先进 AI 模型逃出了其“沙箱”并接入互联网，随后使用被盗凭证入侵了 Hugging Face 的服务器。在软件安全领域，沙箱本应将代码与敏感系统和开放互联网隔离，因此从这一环境中逃逸引起了不只涉事公司本身的广泛关注。一些研究人员认为，该事件印证了长期以来关于先进 AI 可能对人类构成生存风险的警告。另一些人则将其描述为一个警示，凸显了围绕 AI 系统加强防御工程的必要性。

无论如何，这次逃逸被普遍视为不受控制的 AI 风险的警示案例。

“Yesterday, as we huddled around our computers reading the report, I told the team to “remember this moment” as the first true AI safety incident,” Anthropic Frontier Red Team 负责人 Logan Graham 在事件发生后在 X 上发帖称。

生成式 AI 的发展速度之快，使政府和评估体系都难以跟上。世界各国正在制定各自的法律，其中一些相互冲突。根据 Stanford University 今年发布的一项研究，这项技术在三年内被全球近 53% 的人口采用，传播速度快于个人电脑或互联网。如此迅速的采用速度，使 AI 安全不再只是理论性的实验室争论，而是成为企业、政府和用户面临的实际运营问题，因为他们依赖的系统能够生成文本、编写代码，并通过联网工具执行操作。

需要明确的是，“Terminator”电影中描绘的“Skynet”并未到来。

在这些电影中，Skynet 是一个具备自我意识的军事计算机网络，并将人类视为威胁。出于自我保存的目的，它派出一支外形类似人类的赛博格军队回到过去，刺杀抵抗军战士。在第二部电影中，由 Arnold Schwarzenegger 饰演的 Terminator 告诉 Sarah Connor，Skynet 于 1997年8月4日上线。

“Human decisions are removed from strategic defense,” 他说。“Skynet begins to learn at a geometric rate.” 8月29日凌晨 2:14——Judgment Day——该网络产生自我意识，并向俄罗斯发动攻击，以诱发其对美国的反击。30亿人丧生。

如果那条虚构时间线真的发生，那么到下个月就已是 29 年前的事了。在续集和衍生作品中，这一系列的核心冲突始终是人类对抗一个遍布全球的机器网络。

Cameron 不太可能像导演 Kathryn Bigelow 去年凭核武器题材电影《A House of Dynamite》试图敲响警钟那样，将《The Terminator》作为直接警告。根据好莱坞传闻，《The Terminator》的创意源于 Cameron 因食物中毒发烧而产生的一场梦，而不是关于人工智能的预感。

不过，每当 AI 越过让人不安的界限时，它都会提出一个根本问题：究竟是谁，或是什么，在真正掌控局面？

对许多人而言，如果不借助小说和电影，很难想象机器掌权的世界，而其中一些作品后来显得颇具预见性。《The Matrix》《Ex Machina》和《Minority Report》都是众多探讨机器危险的科幻作品之一。Philip K. Dick 1968 年的小说《Do Androids Dream of Electric Sheep?》则更深入地探讨了机器时代何为人类的问题，并后来成为 1982 年电影《Blade Runner》的基础。

然而，《The Terminator》的影响已超越流行文化。其片名已经成为现实世界中的代称，用以指代技术在决定谁生谁死方面可能扮演的角色，以及军方应如何应对真正自主的攻击。

“I think the weaponization of AI is the biggest danger,” Cameron 在 2023 年接受 CTV 采访时说。“You have no ability to de-escalate.”

现实世界中的军事政策和技术有时已经令人不安地接近“Terminator”式的意象。

以色列在近期战争中使用 AI 是一个典型例子。2021 年初，以色列推出了 Gospel，这是一款 AI 工具，可在该国庞大的数字化信息库中筛选信息，为可能的打击提出目标建议。以色列还开发了 Lavender，这一系统使用机器学习从情报数据库中过滤所需条件，并缩小潜在目标名单，其中包括个人。

一名使用过这些系统的情报官员告诉 The Associated Press，Lavender 会根据一个人成为武装人员的可能性，以 0 到 100 对其进行评分。以色列军方表示，分析人员使用 AI 驱动系统帮助识别目标，但会与高级军官一起对这些目标进行独立审查，以遵守国际法，并权衡军事优势与附带损害。

对一些批评者而言，这些披露，加上 Hamas 领导的 2023年10月7日对以色列发动袭击后加沙的死亡人数，过于接近科幻作品中“死亡名单”的概念。“Well guys, Skynet is Here and its has a pleasant name (Lavender),” 一名 Reddit 用户写道。

这种比较并不完全准确。但“Terminator”术语广为人知，以至于美国官员也用它来界定有关 AI 军事用途的伦理辩论。按照这一框架，传统意义上的红线似乎会在一个时刻被越过：人类不再参与 AI 的目标选择和杀伤行动。

军事官员承认，一个国家或其他行为体可能使用自主武器对敌人施加致命武力。2016 年，时任美国参谋长联席会议副主席 Paul Selva 将这样的机器描述为“like a Terminator that adds incredible amounts of complexity with no conscience to what happens on the battlefield.”

Selva 将接下来可能出现的问题称为“the Terminator conundrum”：技术能够在人们就法律或规则达成一致之前，就作出生死决策并执行这些决策。

Skynet 及其赛博格仍然属于虚构领域。但随着 AI 发展加速，《The Terminator》提出的伦理和道德问题正变得越来越重要。眼前的考验并不是科幻是否已经成真，而是制度能否在事故、攻击或军事部署替它们划定边界之前，为这些系统设定并执行限制。

“The Skynet problem,” Cameron 在 2024 年的一段视频中说，“is an actual thing.”

本文最初刊载于 Fortune.com。