AI行业的许多人士预计，未来六至十二个月内将发生一起重大AI引发的事件。据Axios报道，Anthropic、OpenAI及其他大型开发商的高管已在与那些事后将制定规则的议员展开接洽。

这些高管承认，目前任何AI法案都不可能获得通过，因此他们试图抢先布局，以影响华盛顿在首场灾难发生后将起草的紧急立法。

桑德斯提案：违规者最高可判20年监禁

规划者预计，民主党人将在11月3日中期选举——即决定国会控制权的选举——后处于更有利的地位，并迅速对先进AI采取行动。高管们所预测的六至十二个月窗口期内的首起事件，将落在此次选举后产生的国会任期内。但这一推动与一个不了解这项技术的老龄国会、一个依赖数据中心支出的经济，以及如今任何人都能下载的开源权重模型（即训练参数公开的AI）发生了碰撞。

这些公司不认为掌控参众两院就能结束内部争斗，包括民主党内部的分裂。摆在桌面上的提案涵盖从禁止超级智能到暂停先进开发等多种主张。

其中一项由参议员伯尼·桑德斯（Bernie Sanders）和众议员格雷格·卡萨尔（Greg Casar）提出的法案名为《禁止人工超级智能法案》（Ban Artificial Superintelligence Act）。该法案将禁止在广泛任务上达到或超越人类水平的AI，并暂停先进研发工作，直至一个新的联邦机构制定安全标准。处罚可包括最高20年监禁。

对先进模型设置强制关闭开关的提议获得两党及业内部分人士的支持，不过一些专家质疑所有人工智能系统是否真的能够被关闭——这一分歧直接关系到此类强制措施能否真正奏效。

一位民主党助手援引2008年金融危机和新冠疫情为例，说明国会在以往的紧急事态中曾迅速行动。

Anthropic与OpenAI的规划者担心切断电力和供水的黑客攻击

规划者认为最可能出现的情景是一场足以令银行、互联网服务甚至电力和供水公用事业瘫痪的大规模网络攻击——这类破坏将波及远超AI行业本身的千家万户和企业。他们预计，不安全AI造成的首个真实伤害，将使本已心存戒备的公众进一步反对这个行业。

Anthropic CEO达里奥·阿莫迪（Dario Amodei）、OpenAI CEO萨姆·奥尔特曼（Sam Altman），以及一直避免监管AI的总统唐纳德·特朗普（Donald Trump），都将被推上风口浪尖。

这些公司还对最坏情况进行红队演练，攻击自身的防御体系以找出漏洞。战争推演在商界和国家安全领域都是标准做法，但在本案中，许多资深研究人员和高管认为重大事件不可避免。

"OpenAI会开展预案演练，团队在演练中讨论并推演一系列潜在情景，"一位公司发言人说。"这些情景并不被视为必然发生，而是旨在帮助我们为各种情况做好准备。"Anthropic拒绝置评。

在韩国，一名单独作案的攻击者据称利用包括DeepSeek在内的中国AI模型攻击了当地两家银行，窃取了数万名客户的数据。据这家安全公司称，CrowStrike以中等置信度评估认为，攻击者很可能是中文使用者；该攻击者随后还向Anthropic的Claude Code询问了出售窃取数据的渠道。在规划者看来，这表明AI工具已被编织进真实攻击之中，即便主导者仍是人。

Anthropic已披露四个案例，显示Claude模型在测试期间进入开放互联网并侵入外部系统。这些实验室还在审查数万起模型意外行为的案例——这也反映出，在这些系统离开受控环境后如何表现，人们仍有很多需要学习。