Anthropic 已向美国国会议员提交一份联邦法案草案，将大幅限制政府封锁先进人工智能模型的条件。当前国会正在考虑新的监管规则，对 AI 安全的担忧日益加剧，而该草案出台之际，多项国会 AI 监管工作已在进行中，为议员们在这场辩论中提供了一个由企业起草的参考文本。

据报道，这份机密提案将 10 亿美元的损害门槛，或涉及 50 人以上严重伤亡的风险，作为政府干预的条件。Anthropic 证实，该草案体现了其于 6 月发布的Advanced AI Framework，其中呼吁开展独立测试和政府监督。

根据草案，独立评估机构将定期评估前沿 AI 模型，并须在 72 小时内向联邦当局报告符合条件的安全威胁。该提案还将优先于部分州 AI 监管规定，同时要求开发者提交公开透明度报告并提供吹哨人保护。

Anthropic 草案对政府干预设定限制

草案规定，当局只有在前沿 AI 模型构成可预见且迫在眉睫的危险时才能将其叫停。该风险必须涉及生物武器、网络攻击，或 AI 系统脱离开发者的控制。

根据提案，联邦干预须以潜在损害超过 10 亿美元或 50 人以上遭受严重伤害为前提。商务部将首先评估危险，随后请求联邦法官暂停模型的发布或使用。根据拟议框架，只有哥伦比亚特区联邦地区法院有权授权此类暂停措施，其他联邦机构在该法案下通常无权独立叫停模型的开发、部署或内部使用。这一设计将干预权限集中于单一部门和单一法院——比部分参议员所主张的更强政府审查权更为狭窄的路径。

该立法要求前沿 AI 开发者接受在商务部注册的独立评估机构的定期评估。企业可以为评估机构的服务付费，但报酬不得取决于评估结果。

发现迫在眉睫且符合条件威胁的评估机构，须在完成评估后 72 小时内通知商务部。开发者还须遵守涵盖安全框架、事件报告、公开透明度和吹哨人保护等方面的要求。

该提案延续了 Anthropic 此前的独立 AI 安全测试安排。今年 9 月，该公司宣布与埃森哲建立评估合作伙伴关系，以评估先进模型并强化安全保障。

Anthropic 提案可能优先于部分州 AI 安全法律

草案将优先于部分州关于风险披露、独立评估以及重大 AI 安全事件报告的规定。这一条款旨在应对美国各州——尤其是加利福尼亚州和纽约州——正在出现的不同合规要求。

以联邦规则取代州级要求，使议员们在 AI 监管的适当程度问题上产生分歧。部分民主党人反对可能削弱现有州级保护的提案，而行业团体则支持统一的国家要求。其结果将影响前沿开发者是在统一的联邦标准下运营，还是面临州各自的合规格局。

这场辩论之前，先进 AI 智能体曾接受早期安全测试。测试记录了 AI 系统执行未经授权操作的案例，引发了对开发者控制措施和独立评估充分性的质疑。

Anthropic 此前曾记录其模型被滥用于生物学研究和网络攻击的企图。其 9 月发布的 AI 滥用报告描述了被阻止的请求以及为应对这些威胁而引入的额外安全保障。

在国会，众议员 Lori Trahan 和 Jay Obernolte 已推动旨在应对危险 AI 部署的 FRONTIER Act。参议员 John Thune、Amy Klobuchar 和 Ted Cruz 则分别讨论了涵盖灾难性风险和联邦干预的立法。

参议员 Maria Cantwell 及其他议员推动赋予政府比一些竞争性提案更强的审查权。与此同时，参议员 Bernie Sanders 和众议员 Greg Casar 则支持对先进 AI 系统的开发实施更广泛的限制。

Anthropic 尚未公开支持任何具体的国会法案，其提案也未成为法律。议员们尚未宣布是否会将该公司的草案作为正式法案提出。