Anthropic 的 Amodei 在 Palantir 的 Karp 批評後捍衛開放權重立場
重點速覽
- •Amodei 表示,Anthropic 並未主張將開放權重模型作為一個類別加以禁止。
- •他認為,更廣泛的 AI 能力存取不一定會比攻擊者更有利於防禦者。
- •Amodei 指出,沒有危險能力的開放權重模型可作為公共利益,服務企業、開發者與研究人員。
- •他說 Anthropic 主張防止強大晶片落入威權者手中、阻止工業規模蒸餾,並要求有能力的模型接受安全測試。
- •Palantir 執行長 Alex Karp 表示,競爭至關重要,並支持與 Nvidia 合作推動開放權重 AI 發展。

Anthropic 執行長 Dario Amodei 反駁了有關這家 AI 新創公司支持禁止開放權重模型以維持競爭地位的說法,原因是 Anthropic 明顯沒有出現在一封由許多領先 AI 公司簽署的信函中。
包括 Nvidia、Palantir 及其他公司在內的 AI 領域領先企業參與了這封信,並宣布在 Open Secure AI Alliance 中建立合作關係,目標是開發並分享更開放的技術,以提升 AI 時代的安全性,因為風險可能同時來自開放與封閉模型。這段交鋒凸顯出 AI 產業正積極討論,隨著模型能力提升,究竟多少開放性最能支持安全、可及性與競爭。
Amodei 在 Anthropic 網站上的一篇貼文中寫道:「任何讀過我過去文章的人都應該知道,我不認為這類禁令是有用的措施,但我還是要明確說明,讓人沒有任何疑問:Anthropic 從未主張禁止開放權重模型。」
「但我不同意這封信的主張,即開放權重模型必然更容易開發防護措施,或更廣泛的能力存取必然比攻擊者更有利於防禦者。對我來說,相反的情況同樣很有可能成立,」他寫道,並補充說生物武器可能比用於防禦它們的手段更具優勢。
Amodei 表示,他認為沒有危險能力的開放權重模型是一種公共利益,因為其成本僅限於運行所需的電腦,且可為企業、開發者與研究人員帶來價值。
他補充說,他同意這封公開信的許多內容,尤其是開放權重在擴大 AI 經濟可及性、強化競爭以及讓客戶擁有更多控制權方面的價值。
「概括我與 Anthropic 的立場,我們過去沒有、現在也不主張將開放權重模型作為一個類別加以禁止。我們應該改為聚焦於防止強大晶片落入威權者之手、阻止工業規模的蒸餾,以及要求所有足夠有能力的模型,不論開放或封閉,都必須進行安全測試,」Amodei 寫道。
Amodei 的信函發出數小時前,Palantir 執行長 Alex Karp——其公司簽署了支持使用開放權重 AI 模型的信函——在 FOX Business Network 的獨家訪談「The Claman Countdown」中表示,對競爭的抗拒可能讓科技產業變得不那麼有活力,情況類似歐洲。
Karp 表示,他「並不是反 Anthropic」,也不反對所有封閉模型,但他補充說:「如果你想贏,就必須在戰場上競爭。」
「我們的工作必須是擁有世界上最好的 AI,如果你真的說我們會把所有產品限制在美國商業市場,但它們在海外不會受到限制,而事實上就是不會,那麼你實際上是在建立一個兩段式的結構,沒有人可以宣稱我們擁有世界上最好的產品。這完全是瘋狂,」Karp 說。
「我們正在與 Nvidia 一起,在開放權重方面為美國政府打造我們的平台。我們可以透過一家完全美國的公司,使用美國的開放權重公司和美國的 GPU,取得世界上最好的效能。我們不必躲在某種虛假的東西後面,」Karp 說。