新聞股票Anthropic 的 Amodei 在 Palantir 的 Karp 批評後捍衛開放權重立場

Anthropic 的 Amodei 在 Palantir 的 Karp 批評後捍衛開放權重立場

作者: Fox Business Markets·

重點速覽

  • Amodei 表示,Anthropic 並未主張將開放權重模型作為一個類別加以禁止。
  • 他認為,更廣泛的 AI 能力存取不一定會比攻擊者更有利於防禦者。
  • Amodei 指出,沒有危險能力的開放權重模型可作為公共利益,服務企業、開發者與研究人員。
  • 他說 Anthropic 主張防止強大晶片落入威權者手中、阻止工業規模蒸餾,並要求有能力的模型接受安全測試。
  • Palantir 執行長 Alex Karp 表示,競爭至關重要,並支持與 Nvidia 合作推動開放權重 AI 發展。
Anthropic 的 Amodei 在 Palantir 的 Karp 批評後捍衛開放權重立場

Anthropic 執行長 Dario Amodei 反駁了有關這家 AI 新創公司支持禁止開放權重模型以維持競爭地位的說法,原因是 Anthropic 明顯沒有出現在一封由許多領先 AI 公司簽署的信函中。

包括 Nvidia、Palantir 及其他公司在內的 AI 領域領先企業參與了這封信,並宣布在 Open Secure AI Alliance 中建立合作關係,目標是開發並分享更開放的技術,以提升 AI 時代的安全性,因為風險可能同時來自開放與封閉模型。這段交鋒凸顯出 AI 產業正積極討論,隨著模型能力提升,究竟多少開放性最能支持安全、可及性與競爭。

Amodei 在 Anthropic 網站上的一篇貼文中寫道:「任何讀過我過去文章的人都應該知道,我不認為這類禁令是有用的措施,但我還是要明確說明,讓人沒有任何疑問:Anthropic 從未主張禁止開放權重模型。」

「但我不同意這封信的主張,即開放權重模型必然更容易開發防護措施,或更廣泛的能力存取必然比攻擊者更有利於防禦者。對我來說,相反的情況同樣很有可能成立,」他寫道,並補充說生物武器可能比用於防禦它們的手段更具優勢。

Amodei 表示,他認為沒有危險能力的開放權重模型是一種公共利益,因為其成本僅限於運行所需的電腦,且可為企業、開發者與研究人員帶來價值。

他補充說,他同意這封公開信的許多內容,尤其是開放權重在擴大 AI 經濟可及性、強化競爭以及讓客戶擁有更多控制權方面的價值。

「概括我與 Anthropic 的立場,我們過去沒有、現在也不主張將開放權重模型作為一個類別加以禁止。我們應該改為聚焦於防止強大晶片落入威權者之手、阻止工業規模的蒸餾,以及要求所有足夠有能力的模型,不論開放或封閉,都必須進行安全測試,」Amodei 寫道。

Amodei 的信函發出數小時前,Palantir 執行長 Alex Karp——其公司簽署了支持使用開放權重 AI 模型的信函——在 FOX Business Network 的獨家訪談「The Claman Countdown」中表示,對競爭的抗拒可能讓科技產業變得不那麼有活力,情況類似歐洲。

Karp 表示,他「並不是反 Anthropic」,也不反對所有封閉模型,但他補充說:「如果你想贏,就必須在戰場上競爭。」

「我們的工作必須是擁有世界上最好的 AI,如果你真的說我們會把所有產品限制在美國商業市場,但它們在海外不會受到限制,而事實上就是不會,那麼你實際上是在建立一個兩段式的結構,沒有人可以宣稱我們擁有世界上最好的產品。這完全是瘋狂,」Karp 說。

「我們正在與 Nvidia 一起,在開放權重方面為美國政府打造我們的平台。我們可以透過一家完全美國的公司,使用美國的開放權重公司和美國的 GPU,取得世界上最好的效能。我們不必躲在某種虛假的東西後面,」Karp 說。