新闻宏观经济Anthropic AI 安全法案因 10²⁵ FLOP 前沿算力门槛招致批评

Anthropic AI 安全法案因 10²⁵ FLOP 前沿算力门槛招致批评

作者: CryptoBriefing·

要点速览

  • •根据 Anthropic 的草案,一家公司只有在训练的模型算力超过 10²⁵ FLOP、且年度 AI 收入超过 5 亿美元或年度 AI 研发支出超过 10 亿美元的情况下,才会被认定为受监管开发者。
  • •受监管开发者须履行实施正式安全框架、发布系统卡片、配合独立评估以及报告安全事件的义务。
  • •根据该提案,商务部仅可在灾难性风险可预见时干预模型部署,灾难被定义为造成超过 10 亿美元损失或超过 50 人死亡的事件。
  • •截至 2025 年 6 月,已有至少 12 家开发者的 33 个模型超过 10²⁵ FLOP 大关,加剧了该门槛反映 AI 发展较早阶段、可能涵盖大多数企业级模型的批评。
  • •该草案的触发点比加州 SB 53(10²⁶ FLOP)低十倍,与欧盟《AI 法案》基于推定的方式存在分歧,而一些批评者认为其在规则制定权方面比《FRONTIER 法案》更窄且可能更弱。
Anthropic AI 安全法案因 10²⁵ FLOP 前沿算力门槛招致批评

Anthropic 已向美国议员提交一份联邦 AI 安全法案草案,首个重大争议围绕一个数字展开:10²⁵ FLOP。

该门槛将决定哪些 AI 模型在该提案下被认定为“前沿”系统。FLOP(浮点运算次数)衡量训练模型所使用的算力——这条线划在哪里,决定了哪些系统、哪些开发者落入合规范围之内,哪些留在外面。批评者称,该数字反映的是 AI 发展的较早阶段,如今可能已涵盖大多数企业级模型。

草案的具体内容

该提案以 Anthropic 于 2026 年 6 月发布的《先进 AI 框架》为基础。草案本身日期为 2026 年 10 月。

其核心概念是“受监管开发者”。一家公司若训练的模型算力超过 10²⁵ FLOP,并满足两项财务门槛中的至少一项,即符合该定义。

第一项门槛是年度 AI 相关收入超过 5 亿美元。第二项是年度 AI 研发支出超过 10 亿美元。

符合该定义的公司将面临多项透明度要求,包括:

  • 实施正式的安全框架
  • 发布系统卡片,记录模型的工作原理及测试方式
  • 配合独立评估
  • 报告安全事件

该法案还将限制政府权力。仅当灾难性风险可预见时,商务部才可限制模型的部署。草案将灾难性事件定义为造成超过 10 亿美元损失或导致超过 50 人死亡的事件。

其他机构将被禁止全面叫停模型部署。

为何 10²⁵ FLOP 门槛备受争议

截至 2025 年 6 月,已有至少 12 家开发者的 33 个模型超过 10²⁵ FLOP 大关。这一数字预计将继续增长。

与其他监管框架的对比凸显了这场争论。加州 SB 53 法案将触发点定在 10²⁶ FLOP,比 Anthropic 的门槛高出十倍。指数每增加一位即代表十倍的增长,因此差距相当可观。

欧盟《AI 法案》与 Anthropic 的提案较为接近。它将 10²⁵ FLOP 作为可反驳的推定:达到该水平的模型被推定构成系统性风险,除非开发者能够证明并非如此。而 Anthropic 的版本更像是强制性合规触发条件。

批评也来自相反方向。一些批评者认为,该草案范围更窄,且可能弱于竞争性提案,包括《FRONTIER 法案》(H.R. 9925),尤其是在规则制定权方面。

对初创公司、成熟实验室和议员的影响

对行业巨头的潜在优势是最具分量的批评之一。安全框架、系统卡片和独立评估等合规工作需要资金和人员投入。大型 AI 实验室已为此设有专门团队,而较小的公司通常没有。

不过,该法案的两项测试标准在此意义重大。仅超过 10²⁵ FLOP 并不足以使一家公司成为受监管开发者。该公司还须拥有超过 5 亿美元的 AI 收入或超过 10 亿美元的 AI 研发支出。

对议员而言,这场辩论凸显了基于算力的规则存在的结构性问题。任何固定的 FLOP 门槛都会随着硬件进步和训练规模扩大而迅速过时。今天划定的静态界线明天可能涵盖数十个模型,这与 2025 年 6 月的统计数字所显示的情况大体一致。

商务部的有限授权同样值得关注。将干预限定于灾难性场景——以超过 10 亿美元损失或超过 50 人死亡为标志——为开发者提供了可预见性。与此同时,这也使监管机构几乎没有空间去应对尚未达到灾难程度的危害。这一权衡是与《FRONTIER 法案》对比的核心。

因此,触发水平、两项财务测试以及商务部制定权的范围,正是 Anthropic 草案与现有替代方案产生分歧的关键——加州更高的 10²⁶ FLOP 触发点、欧盟《AI 法案》基于推定的方式,以及一些批评者认为在规则制定上更强的《FRONTIER 法案》。

来源:CryptoBriefing