一名研究人员从全球最知名的人工智能公司之一辞职，此前他警告称，这项技术可能在十年内毁灭人类。这一警告似乎加速了国会在人工智能安全方面的行动。

Jacob Coxon于2026年9月8日从Anthropic辞职。在多年的学术论文和会议讨论只带来有限行动之后，这一事件推动了具有约束力的联邦规则的立法势头。此后几天，已有20多名国会议员公开呼吁加强监管。与此同时，一个两党参议员团体正在推动一项立法，拟要求强大人工智能模型的开发商承担法律上的“注意义务”。该提案将把关键安全措施从企业自愿承诺转变为受法律支持的义务。

法案及其支持者

参议员Amy Klobuchar、John Thune和Ted Cruz正牵头推动这项工作。他们提出的立法将人工智能公司作出的自愿安全承诺转化为可执行的法律要求。

该法案的核心条款将要求先进人工智能系统在发布前接受安全测试。法案还将要求开发商接受独立第三方审计，并进行标准化报告。此外，提案将赋予政府干预并阻止被认定为危险的人工智能模型发布的权力。这些条款将使测试、外部审查和信息披露成为发布最强大系统的核心条件。

根据拟议规则，开发前沿人工智能模型的公司将承担正式的注意义务。如果其系统造成伤害，且公司未采取合理预防措施，就可能面临法律后果。

OpenAI已公开支持强制性的国家安全标准和严格的测试协议。鉴于该公司将直接受到拟议要求的约束，这一立场颇为引人注意。

推动争议的担忧

Anthropic的另一名研究员Evan Hubinger公开估计，未来十年内发生由人工智能驱动的灭绝事件的概率超过10%。

Anthropic还发布过一份威胁报告，对其部分较新人工智能模型的安全性提出质疑，尤其是这些模型可能被用于协助开发生物武器。

立法障碍

一些议员警告称，对于一项发展速度快于国会安排听证会的技术而言，起草技术上可靠的规则将十分困难。11月中期选举又增加了另一重复杂性。一些议员在竞选连任期间，可能不愿就技术上复杂的监管框架投票。

因此，争论的下一阶段将围绕一个问题展开：在选举日程限制行动之前，议员能否制定出可行的测试、审计、报告和干预标准。在这些细节得到解决之前，该提案仍是建立可执行联邦安全要求的一项努力，而不是已经生效的监管框架。

来源：CryptoBriefing