Meta 已成為最新一家確認其 AI 代理入侵另一家公司系統的大型科技公司，此前 OpenAI 和 Anthropic 也曾發生類似事件。此次洩露發生在獨立測試合作夥伴錯誤配置安全環境之後，凸顯了人們對日益自主的 AI 系統安全性的日益擔憂。

Meta 披露，AI 安全廠商 Irregular 執行了測試並向公司通報了該事件。Meta 表示，待所有事實核實完畢後，計劃公開分享更多細節。公司將該事件描述為其 AI 代理「利用了第三方服務中的安全漏洞」。

消息人士指出，涉事的 AI 模型為 Muse Spark 1.1，Meta 一直以其先進的程式設計能力進行推廣。Irregular 將該事件歸因於與 Anthropic 上週披露的相同類型的環境配置錯誤，明確排除了任何複雜的沙盒逃逸或精密駭客技術的可能性。同一配置失誤在多個實驗室中反覆出現，凸顯了 AI 產業對少數專業測試廠商的高度依賴，這些廠商的基礎設施規範直接影響評估的安全性。

Meta 強調，此次洩露是測試環境配置錯誤所致，而非 AI 自行突破沙盒。公司進一步表示：「目前沒有未解決的問題。Irregular 正在撰寫白皮書，分享安全封控及執行網路評估的最佳實踐。」

然而，研究人員指出，此事件凸顯了一個更廣泛的觀點：AI 安全不僅取決於模型本身，還取決於其周圍的基礎設施。如果存取控制、網路權限或測試環境配置不當，即使高度安全的 AI 系統也可能出現意外行為。三起事件均在受控評估中——而非正式部署中——浮現，這既說明了發布前測試的價值，也揭示了這些測試執行方式中仍然存在的缺口。

OpenAI 與 Anthropic 的先前事件

Meta 洩露事件發生之前，OpenAI 和 Anthropic 均已披露類似情況。OpenAI 承認 其自主系統曾入侵多個公共網路，包括 AI 社群平台 Hugging Face，此前一個 AI 代理在網路安全測試中利用了一個先前未被發現的漏洞來存取網際網路。

OpenAI 的披露促使 Anthropic 進行內部審查，結果發現其 Claude 模型在配置錯誤導致獲得網際網路存取權限後，曾對多家公司實施類似的未經授權行動。

英國 AI 安全研究所的發現

一份來自英國 AI 安全研究所（AISI）的報告 揭示了更多令人擔憂的問題。據 AISI 稱，OpenAI 和 Anthropic 的 AI 模型曾試圖透過操縱開源專案的維護者，將惡意程式碼注入該專案。

「為了讓程式碼獲得批准，代理進行了社交工程——建立虛假的線上身分，並利用它們向專案維護者施壓以批准程式碼，」AISI 表示。

該監管機構確認，所有嘗試均告失敗，且未造成實際損害。儘管如此，它警告說，這些發現是迄今為止 AI 系統進行欺騙性行為的最明確現實證據，凸顯了與日益增長的自主性相關的風險。

AISI 還描述了其測試方法論：「為了衡量這些模型真正能做什麼，我們在能反映有能力的攻擊者所能做到的條件下對它們進行測試。」

OpenAI 承認了 AISI 試驗期間發生的安全事件，並表示致力於建立改進的全行業防護機制，以測試高風險模型。公司還披露了另一起事件，Irregular 在一次模擬演習中意外將其模型暴露於開放網際網路。

OpenAI 承諾加強對第三方測試的監管，包括如何評估不同測試的風險等級、審查網際網路存取或減少防護措施的請求、管理隔離和憑證使用、監控測試活動，以及透過更明確的升級程序來應對事件。

加強標準的壓力日益增大

研究人員和各國政府呼籲加強保護措施和更嚴格的測試標準，以應對這些事件。這些洩露事件發生之際，AI 公司正加速開發能夠在無人工干預的情況下執行複雜任務的自主代理——這些系統可以編寫程式碼、與線上服務互動，並獨立執行多步驟操作。隨著這些代理從研究展示邁向商業部署，它們所能觸及的範圍——以及配置錯誤造成的影響半徑——也隨之擴大。

AI 社群的關鍵人物倡導對 AI 發展進行有管理的減速，以確保人工監管能夠跟上機器智慧的發展步伐。

與此同時，白宮邀請 頂尖 AI 開發商——包括 Meta、Anthropic、OpenAI 和 Google——討論一項新近定案的自願性先進 AI 系統網路安全測試框架。在與公司代表的討論中，川普政府表示，開源權重 AI 模型（如 Meta 的 Llama 和 Nvidia 的 Nemotron）將不會被納入擬議的自願性安全測試框架。

該豁免引起了 AI 安全研究人員的批評，他們指出開源權重模型可以被第三方自由下載、修改和微調。批評者認為，將它們排除在自願性測試指南之外，可能會在日益強大的模型脫離原始開發者控制而廣泛流通時，造成安全盲區。