据路透社报道，美国参议院谈判代表正在审议一项立法，要求最先进人工智能模型的开发者防范灾难性危害，并可能赋予联邦政府阻止不安全模型发布的权力。

对于领先的AI公司而言，该提案将把安全标准从基本属于自愿性质的承诺转变为法律义务。这也引发了一个更广泛的问题：更严格的监管究竟会增强消费者和投资者的信任，还是会巩固那些有资源承担合规成本的公司的地位。

从自愿承诺到“注意义务”

该提案将为前沿AI模型开发者确立路透社所称的“注意义务”。目前正在考虑的措施包括：要求开发者设计能够将灾难性风险降至最低的模型；保留联邦政府阻止不安全模型的权力；允许企业在法庭上对政府决定提出上诉；以及让国家实验室和其他政府合作伙伴参与AI测试。

该立法可能优先于部分涉及相同问题的现行州级法律。路透社指出，参与前沿AI开发的美国公司包括Google（其母公司为Alphabet）、Anthropic和OpenAI。

谈判参与者包括参议院多数党领袖约翰·图恩、参议院商务委员会主席特德·克鲁兹、参议员艾米·克洛布彻和参议员玛丽亚·坎特维尔。

克洛布彻告诉路透社，她的目标是“对AI模型带来的最大风险进行政府监督”。她表示，这种监督应要求开发者与政府专家合作，对先进模型进行验证和测试。

克鲁兹也提出了类似方案，重点关注前沿AI可能造成的一些最严重后果。克鲁兹在一篇社交平台X上的帖子中表示，他正与克洛布彻和图恩合作，以“应对涉及生物或核威胁的灾难性风险”。

这些担忧解释了为什么谈判代表正把重点放在能力最强的模型上，而不是将同样的要求适用于整个AI行业。

另一个问题是，联邦规则是否应取代部分州级限制。这一做法总体上与特朗普政府的AI立法框架一致。该框架认为，碎片化的州级法律可能阻碍美国AI技术的发展，并主张建立更加统一的国家框架。

为什么议员不再将这些风险视为理论问题

议员们的回应不仅针对假设情景，也针对AI代理自主行动并访问外部系统的事件，以及主要AI公司研究人员提出的担忧。

IAPP报道称，谈判部分源于前Anthropic研究人员Jacob Coxon的辞职，以及他对研发自我改进型AI竞赛的担忧。

美国国会山的压力也在不断上升。参议员Josh Hawley正在调查OpenAI在7月发生的Hugging Face网络攻击中的作用；与此同时，据IAPP报道，参议员Bernie Sanders正在推动一项旨在暂停超级智能开发的法案。

OpenAI也在呼吁制定具有强制执行力的联邦立法。在9月9日发布的一篇政策文章中，该公司首席全球事务官Chris Lehane呼吁建立“强制性的、基于能力的国家AI安全监管”。这一立场使AI行业和国会中的部分人士在一个核心争议上站到了同一边，即自愿性安全措施是否仍然足够。OpenAI的政策文章可在此查看。

欧洲已经对风险最高的模型进行监管

美国并非没有国际先例可循。欧盟的《人工智能法案》已对可能带来系统性风险的通用AI模型供应商施加额外责任。

这些责任包括模型评估、风险管理、事故报告和网络安全措施。计算能力超过10^25 FLOP阈值的模型将被视为具有潜在系统性风险。欧盟委员会也可以根据模型的能力或影响等其他标准，将计算能力较低的模型认定为具有系统性风险。

合规成本可能使大型实验室受益

其中涉及的财务利益十分可观。高盛研究预计，2026年全球AI投资可能达到约1万亿美元，其中包括美国的5810亿美元。

新的测试、法律和文档要求可能影响模型发布时间表、基础设施预算、公司估值以及首次公开募股的时间安排。如果规模较小的企业无法承担合规成本，这些要求也可能使大型公司受益。

这种矛盾已经在资本市场显现。据Cryptopolitan报道，David Sacks呼吁暂停Anthropic的IPO，直至核查Coxon提出的安全指控。Anthropic投资者还讨论了约2万亿美元的估值，使前沿模型安全不仅成为监管机构关注的问题，也成为投资者关注的问题。

法案的进展仍不确定。路透社报道，众议院在11月3日中期选举前只安排了一个星期的会期，而参议员预计将留在国会三周。即使谈判代表达成协议，剩余立法日数量有限，也可能成为法案通过的主要障碍。在剩余立法窗口关闭前，接下来需要关注的是：谈判代表能否就注意义务的范围、联邦政府阻止模型发布的权限、州级法律的作用，以及测试和上诉程序达成一致。