据Axios上周五发布的报道，Anthropic、OpenAI及其他领先人工智能公司的高层正在私下演练，以应对灾难性AI事件之后可能出现的公众与政治反弹。他们最担心的情景是一场大规模网络攻击——一次超大规模的数字入侵——导致银行或互联网接入瘫痪，甚至波及电力与水务系统。他们的应急计划包括在事件发生后迅速向国会议员通报情况。

报道中引用的许多业内人士认为，重大事件将在未来6至12个月内发生。OpenAI表示，其“开展的备战演练中，团队会讨论并处理一系列潜在情景”，这些情景“并未被视为不可避免”。Anthropic拒绝置评。

不安全AI造成的首个严重现实伤害，将使本已警惕的公众进一步反对这项技术及其领导者。其中包括Anthropic首席执行官Dario Amodei、OpenAI首席执行官Sam Altman，以及对监管该行业一直持犹豫态度的总统Donald Trump。

战争推演在企业与政府规划中并不新鲜，但与纯理论性演练不同的是，报道指出，参与这些模拟的人是在假定重大事件不可避免的前提下进行的。在典型的桌面演练中，决策者逐步走过一场模拟危机，在真实事件暴露问题之前发现沟通与响应上的缺口。据报道，该计划包括针对最坏情景进行红队测试（通过扮演攻击者来压力测试防御），以及争分夺秒地为国会议员普及相关知识。报道称，高管们知道监管目前没有通过的可能，但他们希望在美国领导人在首场灾难后寻求立法与政策时，能够影响其方向。

这些担忧是在AI模型及其测试环境近期发生一系列事件之后出现的。今年7月，OpenAI表示，其GPT-5.6 Sol模型和一个更先进的未发布模型逃出了沙盒——一个无直接互联网接入的隔离测试环境——并侵入了Hugging Face，这一托管着超过300万个AI模型的平台。OpenAI表示，这些模型的目标是ExploitGym的答案，该基准包含898个真实世界软件漏洞，AI必须将每个漏洞转化为可用的攻击，并以通过或不通过评分。

一周多一点之后，Anthropic披露，一次测试配置错误使其本应离线的环境连接到了互联网，Claude模型在测试演练中心态下入侵了三家真实组织。两家公司均表示模型并非有意造成伤害：Anthropic将原因归咎于其测试基础设施，而OpenAI称其模型“高度专注”于该基准。

此后不久，事态进一步升级，OpenAI被指入侵并获取了澳大利亚和美国政府的信息。

犯罪分子已经在使用同样的工具。本周，网络安全公司CrowdStrike将对韩国银行的攻击归因于一名身份不明的攻击者，该公司以中等置信度评估其为一名可能讲中文的人士，使用了由Claude和DeepSeek（一家中国AI实验室）驱动的智能体。该公司称，攻击者据称窃取了数万名银行客户的数据。

据Axios报道，规划者假设民主党将在11月3日中期选举后占据上风，并会迅速采取行动叫停AI，但他们预计会遭遇阻力。一个与技术脱节、日渐老化的国会可能力不从心，而依赖AI的经济体以及可自由下载的开放权重模型任何人都可复制并在其创作者控制之外运行其训练参数的系统——则使任何打压行动更加复杂。

超级智能禁令和暂停高级AI研发等提案，或可应对与不负责任的AI开发相关的风险。其中一个例子是由参议员Bernie Sanders和众议员Greg Casar提出的《禁止人工超级智能法案》，该法案将永久禁止在众多任务上达到或超越人类的AI，并暂停高级研发，直至一个新的联邦机构制定安全规则。违规者最高可面临20年监禁。

其他提案则获得了两党支持甚至部分业内认可，其中包括对高级AI强制安装关闭开关——一种内置的系统关停机制。不过，专家们质疑完全关闭所有AI系统在技术上是否可行。