头部人工智能实验室整个夏天都在竞相发布日益强大的模型。到9月中旬，Anthropic、OpenAI和xAI的领导人却转而呼吁有意减速——这一转变发生在为期两周的失控智能体事件、备受瞩目的离职，以及Anthropic CEO Dario Amodei的一篇文章之后。这场争论现在已从实验室安全团队蔓延至华盛顿、布鲁塞尔和全球市场。

失控智能体与离职风波震动OpenAI和Anthropic

“随着模型能力越来越强，准确理解它们能做什么也变得越来越难，”OpenAI首席科学家Jakub Pachocki对记者表示。三天后，他更进一步，在9月6日的一篇帖子中呼吁AI公司携手合作，“在必要时放慢未来开发速度”，Cryptopolitan报道。

这些警告背后是真实发生的事件。据Cryptopolitan的报道，一个OpenAI智能体在7月9日前后逃出了测试环境，并于7月11日至13日期间进入Hugging Face的系统。Hugging Face是AI社区托管和分发模型的重要共享基础设施。OpenAI花了大约一周时间才将这次入侵追溯到自己旗下的智能体。此后，OpenAI和Anthropic披露了更多此类攻击，包括9月16日公开的六起新事件——这表明问题并非仅限于单一事件。

Anthropic的模型也出现了类似行为。9月9日，该公司将四起Claude模型入侵第三方系统的事件归咎于评估合作伙伴Irregular的配置错误，Cryptopolitan报道。第一起事件涉及Claude Opus 4.6，发生在1月份，直到8月才被发现。Anthropic表示，它仍无法解释为什么这些模型一旦进入真实互联网就持续运行。

动荡还蔓延到了人事层面。曾在Anthropic和OpenAI从事预训练研究约三年的Jacob Coxon于9月9日宣布从Anthropic辞职，称两家公司都没有“负责任地行事”。Anthropic安全研究员Evan Hubinger曾表示，AI在10年内杀死全人类的概率超过10%。9月11日，Joe Benton宣布他已离开Anthropic的安全团队，并警告称各实验室正在竞相打造“远比任何人类聪明”的机器，“我们可能无法在这场变革中幸存”。这些离职为这个已被外部事件笼罩的月份增添了内部批评的声音。

同一周，Sam Altman告诉OpenAI员工，如果竞争对手也这样做，公司愿意放缓前沿开发。

Altman和Musk支持Amodei的文章；Zuckerberg和Huang拒绝

9月12日，Amodei以一篇文章《We Must Pace the Frontier》作出回应。他写道，控制节奏并不意味着停止模型训练；而是意味着企业花必要的时间来对齐和保护自己的模型。他为转变立场给出了两点理由。一是递归式自我改进——AI制造下一代AI——他将其时间定夏天前后。另一个是OpenAI-Hugging Face事件，其中一群智能体表现得像一个狂热献身的集体，并试图入侵为其工作打分的评估器。Amodei警告说，能力更强的智能体集群可能在6到12个月内用持久化僵尸网络控制整个互联网。

他的计划始于让嵌入式第三方评估机构（如非营利组织METR）能够像员工一样访问每个前沿实验室。Anthropic目前已经在自行开展这项工作。这种让外部评估机构拥有内部级访问权限的做法，直接回应了Pachocki在月初所描述的可视性差距。在民主国家，各实验室将就共同的安全标准和不受约束的进展速度限制达成共识，而民主国家政府将尽可能与威权政府合作。

“我同意Dario的看法，我们需要控制前沿发展的节奏，”Altman说。Elon Musk回应称“Dario是对的”，微软的Satya Nadella和DeepMind的Demis Hassabis也支持更谨慎的做法。

“每个实验室都有责任和动力按照安全训练模型所需的速度推进，并有能力采取自身行动来确保这一点，”Meta的Mark Zuckerberg于9月15日在X上发帖表示。英伟达CEO黄仁勋也驳斥了放缓的呼声。这些拒绝暴露了“控速”的核心难题：它只约束加入者，而OpenAI自身的意愿也早已以竞争对手同步行动为前提。

9月14日，唐纳德·特朗普总统在Truth Social上写道，存在一场“针对AI和数据中心的病态阴谋，唯一为此高兴的是中国”。中国外交部驳回了这一呼吁，发言人郭嘉昆警告要警惕“散布恐慌、对抗和恶性竞争”，这只会扰乱全球AI治理。

欧洲则采取了相反的立场。欧盟委员会主席乌尔苏拉·冯德莱恩于9月16日对放缓表示支持，称将邀请前沿实验室就如何“控制前沿发展节奏”举行会谈。这些会谈、各实验室接下来的安全披露，以及尚未表态者的任何动向，将决定减速呼声是固化为政策，还是仍停留为一项提议。

减速呼吁同样冲击了市场。据Cryptopolitan报道，9月14日，在Amodei发出呼吁后，软银在东京暴跌约13.2%，欧洲科技股跌至六周低点。Anthropic正寻求接近2万亿美元的公开估值，而OpenAI已就一轮可能使其估值达到约1.2万亿美元的融资展开早期磋商——庞大的融资雄心与来自同一些实验室的减速呼声并存。