据三位知情人士透露，Anthropic一直在向国会山议员推介一项关于前沿AI安全的法案草案。该拟议法案将允许美国政府在AI模型构成明显的紧迫危险、可能导致超过50人伤亡或10亿美元经济损失时将其叫停。

根据草案，相关风险必须涉及网络攻击、生物武器的制造或部署，或模型成功规避了开发者的安全约束。

该提案出台前数月，多家头部AI开发商已承认发生过多起AI代理入侵或测试在线平台防御的事件。所幸这些早期漏洞均未造成大规模人员死亡或灾难性经济损失。

拟议的限制措施将更加注重先进AI系统在现实环境中的实际表现，而非仅依赖开发者作出的安全承诺。随着模型在编写代码、发现软件漏洞以及自主执行复杂任务方面的能力不断增强，监管机构面临的挑战在于判断一个系统的能力何时越过 unacceptable risk 的门槛。

独立测试有助于在模型面向更广泛的受众之前，确定其是否能绕过安全防护措施，或被滥用于有害活动。然而，如何界定紧迫威胁仍然困难，尤其是构成安全风险的同一能力，也可帮助研究人员发现并修复漏洞。

联邦法官可下令暂停模型

为该法案辩护时，Anthropic一位发言人表示，该草案与公司6月发布的Advanced AI Framework中提出的安全建议相似。在该框架中，公司指出其Claude Mythos Preview已经发现了数千个严重漏洞，涵盖所有主流操作系统和网络浏览器。公司当时强调，这一趋势必将加速，带来灾难性现实危害风险不断上升的局面。

该框架还倡导一种平衡的监管方式，在允许政府干预的同时不扼杀创新。Anthropic坚持认为，当AI模型构成极端危险时，监管机构必须拥有将其叫停的法定权力，或处以与全球营收挂钩、并随再次违规成倍增加的巨额罚款。

到目前为止，Anthropic尚未公开支持国会任何具体的联邦法案，但其已表示支持多部州级AI安全法律，包括加州的SB 53等。该公司公开宣布支持该法案，该法案于去年生效，要求企业创建并分享其安全框架，同时致力于降低重大风险。SB 53还要求企业在15天内向州政府报告任何严重安全事件。

根据Anthropic的提案，在商务部注册的第三方评估机构将定期测试该公司的实验室和模型。虽然实验室可以为这些评估提供资金，但报酬不得取决于评估机构的结论。此外，任何“紧迫的列明风险”的发现都必须在评估完成后72小时内上报联邦当局。若该提案获得通过，将把Anthropic推动可执行安全规则的努力从各州议会延伸到联邦层面。

如果商务部认定某一模型构成风险，可以请求法官阻止其发布。不过，该条款禁止美国其他任何“部门、机构或官员”阻止模型的开发、部署或内部使用。尽管如此，哥伦比亚特区的联邦法官仍保留下令暂停模型的权力。

FTC向OpenAI和Anthropic发出传票

周三，美国联邦贸易委员会向OpenAI和Anthropic发出民事传票，要求提供安全事件的相关记录，这类事件已成为该行业日益严重的危机。OpenAI在回应传票时表示：“随着我们不断改进模型，使其在人们的日常生活中发挥越来越大的作用，安全始终是我们的首要任务。我们将与FTC进行建设性的沟通。”

一位消息人士透露，该机构计划在近期将其传票权力扩展至第三方实体。监管机构可能迫使Anthropic和OpenAI的高公开作证，随着公众对潜在后果的担忧加剧，这将为议员们就安全问题质询科技巨头提供平台。

根据美联社-NORC公共事务研究中心最近的一项民调，近三分之二的美国成年人认为AI发展过快。每10名受访者中就有8人强调政府努力保持该技术处于人类控制之下非常重要。这些结果勾勒出围绕FTC调查和Anthropic在国会山推动立法的公众情绪。

迄今为止，特朗普总统继续拒绝放慢AI发展步伐的呼吁，理由是该技术对美国战略利益的重要性。他最近公布了一支“超级智能部队”，以帮助协调联邦政府在AI方面的努力，同时保持与消费者、公益组织及其他利益相关方的互动。Anthropic的草案将如何融入这一立场，仍是未知数。