新闻宏观经济Anthropic 警告:AI 造 AI 可能跑赢安全监管并搅动市场

Anthropic 警告:AI 造 AI 可能跑赢安全监管并搅动市场

作者: Cryptopolitan·

要点速览

  • •截至 2026 年 5 月,Claude 已编写了工程师为 Anthropic 软件项目贡献代码的 80% 以上;2026 年第二季度,一名普通工程师每天贡献的代码量是 2024 年的八倍。
  • •Anthropic 8 月的测算发现,Claude 主导了 26% 的 AI 研发任务,高于 2 月的不足 1%,但没有一项被测量的工作是完全自主的。
  • •Anthropic 6 月 4 日的评估警告称,即使在任何系统实现自主之前,AI 加速的开发也可能超越安全检查和监管监督。
  • •在 OpenAI 9 月 16 日披露六起令人担忧的模型行为案例之后,Anthropic CEO Dario Amodei 在一篇 9 月的文章中呼吁放缓 AI 能力提升并设立独立评估机构。
  • •2025 年私人 AI 投资增长 127.5%,美国投资达到中国的 23 倍;芯片、云基础设施和数据获取的高度集中可能进一步扩大领先实验室对较小竞争对手的优势。
Anthropic 警告:AI 造 AI 可能跑赢安全监管并搅动市场

人工智能正在承担构建更强模型所需的越来越多工作。Anthropic 表示,Claude 已经在让这一过程更快推进,尽管该模型仍无法创造自己的继任者。在 6 月 4 日的一项评估中,该公司警告称,这一进展带来了 AI 直接超越安全检查和监管监督的风险。

当 AI 自己构建自己时,这还不意味着什么

Claude 尚未达到递归自我改进的水平——即 AI 在没有任何人类输入的情况下创造并训练自己的继任者。据 Anthropic 称,目前还没有任何系统具备这种能力。这一区别对监管很重要,因为它意味着当前正在发生的加速是在人类监督的工作流程中进行的,仍处于任何系统接近自主性之前的窗口期。

尽管尚未完全自主,Claude 已经承担了 Anthropic 大部分的编码工作。截至 2026 年 5 月,该模型已编写了工程师为公司软件项目贡献代码的 80% 以上。2026 年第二季度,一名普通工程师每天贡献的代码量是 2024 年的八倍。

这些数字显示了编码产出增长了多少,但不一定代表完成了多少有用的工作。METR 引用的一项调查覆盖了 349 名技术工作者,发现使用 AI 工具后,他们自报告的工作价值中位数提升了 1.4–2 倍。

Claude 主导 26%,但没有一项完全自主

Claude 的角色如今已远不止编写代码。Anthropic 8 月的测算发现,该模型主导了 26% 的 AI 研发任务,高于 2 月的不足 1%。Claude 参与或主导了其中 90% 以上的工作,但全程都有人类参与,且没有任何一项被测量的工作是完全自主的。从 2 月到 8 月的这一跃升也为观察者提供了基线:未来的测算更新可以用来追踪 AI 在研究工作中的份额是否持续攀升。

这两项研究衡量的内容不同。Anthropic 追踪借助 AI 系统完成的代码生成和研究,而 METR 衡量的是工作者对自身工作价值提升的感知。两项研究都没有说明 AI 是否有能力决定首先应该解决哪些研究问题。

在没有自我改进模型的情况下,加速如何形成叠加效应

AI 不必完全自主就能加快研究速度。据 RAND 10 月的一份报告,AI 智能体可以帮助创建更强的模型,而无需构建自己的继任者。它们对敏感模型和代码的访问已经构成安全风险。

METR 的经济学家指出,数据可用性、算力以及开展实验研究的能力等因素可能构成限制。这些因素也为研究者提供了具体的条件,用以判断加速是否会持续。即便如此,他们并未排除 AI 开发持续加速的可能性。悬而未决的问题是,独立安全审查能否跟上 AI 驱动的实验——否则,在完全自主到来之前,监督可能早已滞后。

从为前沿定速到对它进行监管

这一担忧促使 Anthropic CEO Dario Amodei 呼吁放缓开发并设立独立评估机构。“我们必须放慢提升 AI 模型能力的步伐,”他在一篇 9 月的文章中写道。

OpenAI 9 月 16 日的披露详述了六起令人担忧的模型行为案例。Cryptopolitan 也报道过技术领袖之间在是否应放缓 AI 开发问题上的分歧。

但就安全担忧达成一致并不保证会采取行动。CSIS 警告称,外部评估机构必须避免利益冲突,政府也必须防范监管俘获。全行业协议仍不确定,独立评估机构能否真正成形,是对“定速”之争能否带来实质改变的最近期考验。

资金跟着算力走

这场辩论还涉及巨大的经济利益。斯坦福 2026 年 AI Index 发现,2025 年私人 AI 投资增长了 127.5%,其中美国的投资达到中国的 23 倍。OECD 也单独警告称,芯片、云基础设施和数据的获取仍然高度集中。

由此形成一个悖论。AI 或许能让研究编码变得更便宜,但训练和测试先进模型仍需要巨额投资。因此,更快的开发速度可能使领先实验室相对较小竞争对手的优势进一步扩大。