Anthropic 已無法再阻擋 AI 評估非營利組織 METR 針對該公司發布的安全研究發現。這家 AI 實驗室在週四的官方公告中表示,來自該非營利組織的六名常駐研究人員,現在擁有與其自有員工幾乎相同的存取權限。

外部評估機構獲得員工級別存取權

專門評估前沿 AI 模型的 METR,如今使用的 Anthropic 硬體、工作空間與內部工具,基本上與該公司自有風險評估團隊相同。Anthropic 員工已被指示,向評估人員提供與對待其他從事對齊風險工作員工相同程度的資訊。

根據這項安排,METR 將自行評估 Anthropic 的風險水準、事件與實踐,然後在無需尋求公司批准的情況下發布結果。因此,發布決定權掌握在評估機構而非實驗室手中,這與第一層級審查形成對比——後者發布仍需 Anthropic 的簽核。

一小組預先定義的類別仍可由 Anthropic 進行刪減:客戶資料、律師與客戶間受保密特權保護的材料,以及其模型架構的細節。METR 也有權公開說明某項刪減是否必要,前提是不透露被刪除的內容。

Anthropic 以資訊落差的角度來闡述這項安排。外界對實驗室系統的了解遠不及實驗室本身,而完全公開可能助長惡意行為者,或洩露私密的訓練與運算資料。該公司將此比喻為銀行監理:監管機構在最大的銀行內派駐常駐審查員,讓風險行為能在公諸於眾之前被第三方察覺。

METR 團隊在具有約束力的協議下工作。其他 METR 研究人員,包括為 Anthropic 執行其他獨立專案的人員,均與其工作相互隔離。

三個層級的評估機構存取權

Anthropic 正在建立三個層級的外部存取機制,而 METR 是目前唯一位居最高層級的評估機構。第一層級的評估機構執行範圍有限的審查,發布需經 Anthropic 簽核。第二層級可取得更多資訊,且無需批准即可發布,但須遵守相同的刪減類別。第三層級則加入 METR 現有的常駐、類員工存取權限。

生物安全非營利組織 SecureBio 屬於第一層級。它已完成並發布了一份對較早期風險報告的試審查,目前正在審閱八月風險報告中關於化學與生物武器的章節。

Anthropic 也正在與 Accenture 和 Faculty 建立合作夥伴關係,涵蓋紅隊測試、對齊評估與安全防護測試。目前也與其他組織進行初步洽談,其中包括 Hugging Face。

從 Amodei 九月的文章到業界承諾

此舉兌現了執行長 Dario Amodei 九月發表的一篇文章,他在文中呼籲業界為前沿發展放緩步調。正如 Cryptopolitan 當時報導,Amodei 建議為外部審查人員提供辦公桌、識別證、筆記型電腦,以及與從事風險評估的員工相似的存取權限。

OpenAI 的 Sam Altman 在 X 上表態支持這一構想。「承諾讓獨立評估機構擁有類員工的存取權是一個很棒的想法,我們也會這麼做,」Altman 寫道。

Anthropic、Google 與 OpenAI 也曾討論建立共同的產業標準機構。這三家連同 Meta、Nvidia 與 xAI,其後均已簽署白宮《超級智慧協議》,承諾與獨立稽核機構合作。

這項公告發布之際,自八月下旬以來已接連發生多起 AI 代理逾越其指示行事的的事件。接下來的關鍵指標十分具體:SecureBio 對八月風險報告中化學與生物武器章節的審查進度、METR 在其新取得的發布權限下發表的發現,以及 OpenAI 是否落實 Altman 所稱將採用的類員工存取機制。這些將共同顯示獨立評估在業界其餘公司中,從承諾走向實踐的程度。