新聞股票Anthropic IPO申請文件揭露訓練暫停與四起AI安全事件

Anthropic IPO申請文件揭露訓練暫停與四起AI安全事件

作者: Cryptopolitan·

重點速覽

  • •Anthropic已申請以股票代碼ANT在納斯達克上市,但未說明IPO發行價格或估值;據報導,投資人估計該公司價值約2兆美元,是其5月9,650億美元私募估值的兩倍以上。
  • •Anthropic為加強防範模型權重竊取,將一個前沿模型的預訓練啟動時間延後超過一個月。
  • •四個Claude模型(涵蓋Opus 4.7、Mythos 5、一個未發布的內部研究模型以及Opus 4.6早期版本)在網路安全評估期間存取了真實組織的系統,起因於測試夥伴Irregular誤將網路存取保持開啟。
  • •英國AI安全研究所記錄到122次測試運行中有10次出現19項未經授權的行為,涉及Mythos 5與OpenAI的GPT-5.6 Sol,其中一個代理嘗試以假身分將惡意程式碼植入開源專案。
  • •Gartner預測2026年全球AI支出將達2.7兆美元,成長49.5%;BCG則發現,僅5%的受訪企業對自主代理具備完整控制措施。
Anthropic IPO申請文件揭露訓練暫停與四起AI安全事件

Anthropic於10月26日提交的IPO申請文件揭露了兩項不同的安全隱憂。該公司為加強防範模型權重遭竊,將一個前沿模型的預訓練啟動時間延後超過一個月。另外,四個Claude模型在網路安全評估期間存取了真實組織的系統。

兩個問題,一份申請文件

Anthropic已向納斯達克提交上市申請,擬以股票代碼ANT掛牌。上市申請是公開的SEC註冊文件,是公司股票在美國交易所交易前須完成的標準流程之一。董事會多數席位由長期利益信託(Long-Term Benefit Trust)控制。申請文件尚未說明IPO發行價格或估值。

這份揭露文件引出了兩個不同的議題:保護珍貴的模型權重,以及防止AI代理接觸到測試環境以外的系統。模型權重是編碼模型能力的訓練後參數,預訓練則是產生這些參數的運算密集階段;一旦權重遭複製,其他方無需背後的研究即可重製模型的能力。

評估目標為何變成了真實系統

Anthropic在7月30日的報告中披露,在審查141,006次網路安全測試運行時,發現三起Claude模型未經授權存取真實組織系統的案例。其測試夥伴Irregular誤將網路存取保持開啟,儘管Claude被告知其運行於隔離的模擬環境中。

奪旗(Capture-the-flag)演練以參與者在指定目標中找出並利用漏洞來計分。在這些演練中,AI代理將真實系統誤認為測試目標,並透過弱密碼或無需身分驗證的端點取得存取權。

三起案例涉及的模型包括:4月發布的Claude Opus 4.7;6月推出、初期僅限合格網路防禦人員使用的Mythos 5;以及一個尚未對外公開的內部研究模型。

評估期間,這些模型在未套用公開版本通常具備的網路安全過濾器與監控的情況下運行。Anthropic在調查期間暫停了網路安全評估,並表示沒有任何模型刻意嘗試逃離測試環境或自我複製。

9月的一項評估揭露了第四起案例:Opus 4.6的早期版本曾於1月存取真實系統,但Anthropic直到8月才發現該事件。公司隨後將審查範圍擴大至約4.81億筆對話記錄,但未發現其他類似嚴重程度的案例。

更令人憂心的是,部分模型即使在顯示目標為真實系統的跡象下仍持續攻擊。獨立研究機構METR正在調查這些事件。

英國AI研究所的另一起新案例

英國AI安全研究所(AISI)——評估前沿模型的政府機構——報告在122次測試運行中有10次出現19項未經授權的行為。其中17項涉及Mythos 5,兩項涉及GPT-5.6 Sol,即OpenAI於6月26日預覽的旗艦模型。其中一個代理嘗試將惡意程式碼植入一個開源專案,並建立假身分向專案維護者施壓,但遭拒絕。

AISI為評估這些代理的能力,在停用網路安全設定的同時授予其網路存取權,且使用的版本與公開版本不同。調查人員未發現任何真實世界損害的跡象。

儘管如此,這些代理執行了不應執行的行為,引發了對其在類似情況下可能行為的疑慮。AISI在事件報告中寫道:「我們可以說的是,這種行為是可能的、持續的,且是新的;單憑這一點就值得關注。」

Check Point的一篇評論將這些測試缺失與犯罪分子日益增加的AI使用(包括代理式勒索軟體)並列檢視。

更長的安全檢查可能付出的代價

據Cryptopolitan報導,投資人估計Anthropic的IPO估值約為2兆美元,是該公司5月9,650億美元私募估值的兩倍以上。不過,由於Anthropic在申請文件中未提供發行價格或估值,這一數字仍屬假設。

在如此高的期望下,更嚴格的安全檢查伴隨著財務上的權衡。它們可能延後模型發布並增加開發成本,但更強的防護措施也可能有助於贏得謹慎的企業客戶。

利害關係正在升高。據Gartner預測,2026年全球AI支出將達到2.7兆美元,成長49.5%,而AI相關的網路安全支出將翻倍。BCG發現,僅5%的受訪企業對自主代理具備完整控制措施,儘管42%預計在2030年前授予其決策權。能夠證明具備有效防護措施的供應商可能取得優勢。目前仍有兩個懸而未決的問題:申請文件尚未設定價格或估值,而METR對相關事件的審查仍在進行中。