新聞宏觀經濟Anthropic AI安全法案因10²⁵ FLOP前沿門檻引發批評

Anthropic AI安全法案因10²⁵ FLOP前沿門檻引發批評

作者: CryptoBriefing·

重點速覽

  • •Anthropic草案規定,企業只有在訓練超過10²⁵ FLOPs的模型,且年AI營收超過5億美元或年AI研發支出超過10億美元時,才會被歸類為受規範開發商。
  • •受規範開發商將有義務建立正式安全框架、發布系統卡、配合獨立評估並通報安全事件。
  • •根據提案,商務部僅能在災難性風險可預見時干預模型的部署,災難定義為損害超過10億美元或造成超過50人死亡。
  • •截至2025年6月,來自12家開發商的至少33個模型已越過10²⁵ FLOP標記,助長了門檻反映較早AI發展階段、可能涵蓋大多數企業級模型的批評。
  • •草案的觸發門檻比加州SB 53(10²⁶ FLOPs)低十倍,且有別於歐盟AI法案的推定式做法,而部分批評者認為其在規則制定權上比FRONTIER法案更狹隘且可能更弱。
Anthropic AI安全法案因10²⁵ FLOP前沿門檻引發批評

Anthropic已向美國立法者提交一份聯邦AI安全法案草案,首個重大爭議圍繞一個數字:10²⁵ FLOPs。

該門檻將決定哪些AI模型在提案下符合「前沿」系統資格。FLOPs(浮點運算次數)衡量訓練模型所使用的運算能力——這條線劃在哪裡,就決定哪些系統、哪些開發商落入合規範圍之內、哪些留在外面。批評者表示,這個數字反映的是AI發展的較早階段,如今可能已涵蓋大多數企業級模型。

草案實際內容

該提案建立在Anthropic於2026年6月發布的進階AI框架之上。草案本身日期為2026年10月。

其核心概念是「受規範開發商」。企業若訓練的模型超過10²⁵ FLOPs,並符合兩項財務門檻中的至少一項,即符合資格。

第一項門檻是年AI相關營收超過5億美元。第二項是年AI研發支出超過10億美元。

符合定義的企業將須遵守多項透明度要求,包括:

  • 建立正式安全框架
  • 發布記錄模型運作方式及測試方式的系統卡
  • 配合獨立評估
  • 通報安全事件

該法案也將限制政府權限。商務部僅能在災難性風險可預見時限制模型的部署。草案將災難性事件定義為造成超過10億美元損害或導致超過50人死亡的事件。

其他機構將被禁止完全中止部署。

為何10²⁵ FLOP門檻受到質疑

截至2025年6月,來自12家開發商的至少33個模型已超過10²⁵ FLOP標記。該數字預計將持續增加。

與其他監管框架的比較凸顯了這場辯論。加州SB 53將觸發門檻定為10²⁶ FLOPs,是Anthropic門檻的十倍。指數每增加一,即代表十倍的變化,因此差距相當可觀。

歐盟AI法案則較接近Anthropic的做法。它將10²⁵ FLOPs作為可反駁的推定:達到該層級的模型被推定具有系統性風險,除非開發商能證明非如此。Anthropic的版本則更像強制性的合規觸發器。

批評也來自相反方向。一些批評者表示,該草案比競爭提案(如FRONTIER法案(H.R. 9925))更狹隘,且在規則制定權方面可能更弱。

對新創、既有大廠與立法者的意涵

對既有企業的潛在優勢是最具影響力的批評之一。安全框架、系統卡與獨立評估等合規工作需要資金與人力。大型AI實驗室已維持負責大部分此類工作的團隊,而較小的公司通常沒有。

不過,法案的雙重測試在此具有重要意義。僅超過10²⁵ FLOPs並不會使企業成為受規範開發商。該企業還需要超過5億美元的AI營收或超過10億美元的AI研發支出。

對立法者而言,這場門檻辯論凸顯了以運算量為基礎的規則所面臨的結構性問題。隨著硬體進步與訓練規模擴大,任何固定的FLOP門檻都可能迅速過時。今天劃下的靜態界線,明天可能涵蓋數十個模型,這與2025年6月時已越過門檻的模型數量大體一致。

商務部受限的職權也值得關。將干預限定於災難性情境——以超過10億美元損害或超過50人死亡為標準——給了開發商更大的可預測性。但同時,也讓監管機構幾乎沒有餘裕處理未達災難程度的危害。這項取捨正是與FRONTIER法案比較的核心。

因此,觸發門檻、雙重財務測試以及商務部規則制定權的範圍,正是Anthropic草案與現有替代方案的分歧點——加州較高的10²⁶ FLOP觸發門檻、歐盟AI法案的推定式做法,以及一些批評者認為在規則制定方面更強的FRONTIER法案。

來源:CryptoBriefing