Anthropic、OpenAI 與 Google 討論成立聯合 AI 標準機構
重點速覽
- •擬議中的組織將讓主要前沿 AI 實驗室參與制定模型安全評估標準。
- •Google DeepMind 負責人 Demis Hassabis 提議成立美國機構,在先進系統發布前先進行自願性評估。
- •Anthropic 執行長 Dario Amodei 主張讓獨立評估人員獲得更多時間,並能進入前沿實驗室進行評估。
- •由產業主導的標準可能提高初創公司的合規成本,並強化成熟 AI 公司的市場地位。
- •任何新框架都需要處理監管機構獨立性、日益增加的評估需求,以及與歐盟 AI 治理工作的重疊問題。

據 The Information 報導,Anthropic、OpenAI 與 Google 已討論成立一個產業合作標準組織。這個擬議中的機構將讓主要前沿 AI 實驗室有機會制定用於評估自身模型的安全標準。
共同標準可以讓企業在決定是否將前沿模型用於敏感任務時更有確定性。然而,同一套框架也可能強化最大型 AI 公司的地位。經濟合作暨發展組織(OECD)此前警告,高昂的固定成本、有限的運算資源取得管道,以及基礎設施集中,已讓新公司難以進入 AI 市場。額外的合規成本可能為規模較小的實驗室帶來另一道障礙,OECD 在其關於 人工智慧市場 的報告中也提到這一點。
已在討論中的提案
7 月 14 日,Google DeepMind 負責人 Demis Hassabis 提議成立一個以美國為基地、仿效金融業監管局(FINRA)的 Frontier AI Standards Body。Hassabis 在一則 X 貼文 中概述了這項提案。
根據他的計畫,前沿實驗室將自願提交先進技術接受評估,並在發布前進行為期 30 天的審查。評估人員將檢視這些技術是否涉及網路安全、生物威脅或操縱等風險。
外交關係協會(CFR)報導,白宮已在考慮 Hassabis 的提案。根據該計畫,對於希望在美國部署前沿技術的公司而言,通過評估只會在稍後階段成為強制要求。CFR 在其分析文章 「美國即將設計 AI 監管機構:如何妥善完成」 中討論了這項提案及相關監管問題。
Anthropic 執行長 Dario Amodei 在 9 月發表的文章 「我們必須放慢前沿發展步伐」 中,從不同角度探討了這個問題。他認為,安全工作需要更多時間,才能跟上 AI 能力的進展。Amodei 提議允許 METR 等獨立評估人員長時間進入前沿實驗室,為民主國家主要 AI 公司在安全標準方面的合作奠定基礎。
更早的產業主導努力
由產業主導的 AI 安全組織並非新鮮事。2023 年,Frontier Model Forum 由六家主要 AI 公司共同成立,旨在透過一項規模超過 USD 10 million 的 AI Safety Fund,建立獨立的安全研究計畫。
Agentic AI Foundation 於 2025 年 12 月在 Linux Foundation 旗下成立,目標是為 AI 代理開發開放標準與基礎設施。參與成立該基金會的專案包括 Anthropic 的 Model Context Protocol、Block 的 goose,以及 OpenAI 的 AGENTS.md。
OpenAI 也參與創立了 Appia Foundation。該基金會於 2026 年 6 月成立,擁有 13 名成員,旨在將 AI 治理的一般原則轉化為規格、測試與合規證明,以供整個 AI 供應鏈使用。OpenAI 在其官方公告 「協助建立先進 AI 的共同標準」 中介紹了其在共同標準方面的工作。
協調的推動也延伸至產業組織之外。正如 Cryptopolitan 此前報導,OpenAI 全球事務主管 Chris Lehane 表示,美國與中國應支持全球 AI 安全框架,並將這項努力比作國際核能合作。Cryptopolitan 的報導 涵蓋了他的相關言論。
對獨立性、能力與競爭的疑慮
獨立性仍是核心疑慮。根據 CFR 的分析,由受監管產業出資的監管機構,可能面臨類似 2008 年金融危機前發行人付費信用評級制度所產生的利益衝突。這種安排也留下許多未解問題,包括監管機構取得前沿模型的管道、評估人員的專業能力、國家安全防護措施,以及現有測試方法的可靠性。
能力是另一項挑戰。一項 GovAI 預測 估計,2025 年至 2028 年間可能有 14–16 個模型,其規模可與迄今最大的訓練運算相當。這項預測顯示,除了定期評估之外,還需要持續性的審查能力。
競爭同樣值得關注。由最大型實驗室主導制定的標準,可能成為固定成本,而成熟企業比初創公司更有能力承擔這些成本。如果自願性框架轉為強制要求,就需要引入相關機制,避免安全合規成為進入市場的障礙。
任何新框架也需要與歐洲現有的治理工作保持一致。歐盟的 General-Purpose AI Code of Practice 於 2025 年 7 月推出,作為證明符合 AI Act 的自願方式,目前已將 Anthropic、Google、Microsoft 與 OpenAI 列為簽署方。歐盟政策頁面 提供了該守則的詳細資訊。因此,新的美國或產業主導標準機構將進入一個已經擁擠的治理格局,而不是從頭建立一套治理體系。該框架的實際意義,將取決於其自願評估、獨立評估安排,以及與現有規則之間的關係如何界定。