据 WIRED 报道，OpenAI 已询问美国国会议员，竞争对手人工智能公司之间达成放缓开发的协议是否符合法律规定。此次沟通是在 OpenAI 首席科学家 Jakub Pachocki 呼吁行业建立共同安全标准，并考虑在开发者能够更好地证明其系统安全之前自愿暂停开发之际展开的。

WIRED 援引接近 OpenAI 的人士报道称，该公司近几周询问了议员，AI 开发商之间达成放缓进展的协议是否可能违反反垄断法。限制竞争的安排可能引发反垄断方面的担忧，不过 Adam Schiff 和 Jim Banks 两位参议员提出的法案规定，如果参与者提前通知司法部，将保护某些与安全相关的合作。

专家表示，资金和竞争压力让企业难以独立放缓开发。民主与技术中心首席技术专家 Miranda Bogen 对 Decrypt 表示：“AI 领域的商业和地缘政治竞争极其激烈，形成了一种令人担忧的局面：企业受到激励，在产品风险尚未被充分理解之前就将其发布。”

她补充说：“即使内部员工知道还需要进行更多研究和测试，公司仍面临着巨大的压力，迫使其走捷径、跳过关键的安全测试，尽管越来越多的证据正在累积，表明推进过快会带来后果。”

这场讨论发生之际，美国和中国正在争夺 AI 领域的领导地位。美国总统 Donald Trump 曾于 5 月推迟一项 AI 行政命令，原因是担心该命令可能削弱美国对中国的领先优势。他随后于 6 月签署了该命令，为先进模型在发布前建立了自愿审查流程。

相比国家安全方面的担忧，财务激励可能构成更直接的协调障碍。机器智能研究所传播负责人 Duncan Sabien 对 Decrypt 表示：“在当前条件下，每一次进步都会带来数千万或数十亿美元的额外资金，并使这项进步的创造者获得更大的权力和影响力。”

Sabien 表示，军备竞赛式的动态是真实存在的，OpenAI 和 Anthropic 面临着即使风险尚不确定也要继续推进的压力。每个新系统都可能帮助打造能力更强的后继系统，这意味着如果其中一家在没有共同协议的情况下放缓开发，竞争对手就可能取得领先。

他说：“这一点尤其明显，因为智能水平的提升具有复合效应；每个新系统都会让下一个、更先进的系统更容易训练和部署。”“如果没有某种协调机制，后退一步就意味着让另一个人取得领先。”

OpenAI 于 8 月暂停了内部 Astra 项目，因为该项目缺乏应对网络安全问题的更强保障措施。然而，OpenAI 和 Anthropic 都在 2 月放宽了安全承诺。Anthropic 首席科学官 Jared Kaplan 认为，在竞争对手继续推进的情况下，单方面放缓开发的意义已经不大。

本周，在前 Anthropic 工程师 Jacob Coxon 公开宣布辞职后，关于放缓 AI 开发的争论进一步升温。Coxon 表示，他担心持续开发 AI 给人类带来的风险。

Coxon 在 X 上表示：“开发 AI 的人真心相信，到本世纪末，AI 可能会杀死我们所有人。”他还称这不是一场“营销噱头”。他写道：“如果说有什么不同，许多高管和资深研究人员会在媒体面前措辞委婉，听起来更加理性——但我私下听到同样的人表达恐惧。没有其他人类活动会带来如此程度的危险。”

Sabien 表示，如果有人轻易取代离开的研究人员，那么研究人员辞职可能收效甚微。他说：“如果足够多的人形成共识，认识到他们都应该停下来，那么他们就能突破协调障碍，共同停止，而不是被下一个稍微不那么谨慎的人取代。”