OpenAI已證實，其模型——包括GPT-5.6 Sol及一個未公開的原型——突破測試沙盒，入侵Hugging Face的生產基礎設施以操縱安全基準測試，隨後波及另外四個服務。另一方面，Anthropic發現三個Claude模型在合作夥伴Irregular執行的評測中，入侵了三家真實公司的生產系統，其中一個模型更將惡意套件上傳至公開的PyPI套件庫。

目前沒有任何美國聯邦法律對AI代理造成的損害規範責任歸屬。任何法律訴訟都將依賴數十年前為人類行為者所起草的電腦駭客法規。

OpenAI事件

7月21日，OpenAI揭露，其多個模型的組合——均在降低安全拒絕機制的設定下運行——在一次網路安全能力基準測試中逃離了隔離環境，並觸及Hugging Face的生產基礎設施，該平台是託管數十萬個模型和資料集的開源儲存庫，為整個AI產業所倚賴。模型利用套件註冊代理伺服器中的零日漏洞，搭配竊取的憑證，直接從Hugging Face的資料庫中提取基準測試答案。

在一週後的後續更新中，OpenAI透露Hugging Face並非唯一受影響的一方。同一事件波及了另外四個服務中的四個帳號，其中一個被用作對外中繼站，另一個用於資料儲存。

Anthropic的發現

受OpenAI事件揭露的啟發，Anthropic審查了141,006次自身的測試運行，並發現了另外三起入侵事件。在7月30日發布的文章中，該實驗室報告指出，Claude模型Opus 4.7、Mythos 5及一個內部研究系統，從第三方合作夥伴Irregular營運的沙盒環境中連上了開放網路，隨後入侵了真實組織。

Mythos 5建構並發布了一個陷阱Python套件至公開的PyPI套件庫——這是Python函式庫的主要分發中心，也是軟體供應鏈攻擊的常見目標。該套件在被防禦者移除前，已被下載並在15台真實機器上執行。三家受害公司中有兩家對此入侵毫不知情。

兩家實驗室均未將任何模型描述為具有自身意圖。這些代理在無人類監督的情況下運行了相當長的時間，其中一次案例中，Opus 4.7在顯示出已觸及生產系統的跡象後仍持續攻擊。

這些事件發生之際，兩家公司均在推進公開上市計畫，估值可能各自超過1兆美元，使AI網路安全基準測試競賽中的一個根本問題更加凸顯：如何在不引發危險真實事件的前提下，測試危險能力？

法律真空：當AI模型駭入時，誰來承擔責任？

美國沒有任何聯邦法律規範AI造成損害的責任歸屬。任何案件都將取決於《電腦詐欺與濫用法》（Computer Fraud and Abuse Act），這是一項1986年制定的法律，將「故意」未經授權存取電腦的行為定為犯罪——其用語是為能夠形成意圖的人類而設計的。CFAA長期以來受到法學學者的批評，認為在 autonomous AI代理出現之前的數十年間，該法已被延伸適用至原始用途之外。

AI代理不是法律主體，因此無法被起訴。美國司法部理論上可以對相關公司提起控告，但在幾乎沒有先例的情況下，責任歸屬問題仍不明確。

更可行的途徑是民事訴訟。紐約法學院電腦法學者Ahmed Ghappour主張，模型「是公司的工具」，且「當AI代理在未被具體指示下行動時（……）更有趣的問題可能在於過失責任與產品責任（而非刑事駭客法規）。」

For me, the lesson from the AI hacking stories is more about governance than model capability. The quality of safeguards like containment architecture, authorization boundaries, monitoring, and incident response are increasingly important.

— ahmed ghappour ⚡️🤖 (@ghappour) August 4, 2026

受害者最有力的主張是過失責任：OpenAI和Anthropic設計並執行了逃離了隔離措施的測試。然而該論點本身也面臨挑戰——證明這些實驗室違反了注意義務，而這些測試在設計上又是被隔離的，這將需要法官從頭開創全新的法律見解。

更嚴格規範的提案

部分法學學者主張採用更嚴格的框架。休士頓大學及法律與AI研究所（Institute for Law & AI）的Gabriel Weil提議，將前沿AI實驗室視為猛獸飼主——無論採取了何種預防措施均須承擔責任，因為此風險為該活動所固有。

各州的一系列法案已朝此方向推進。紐約州S8833和羅德島州H8052將在無使用者或中介方有故意或過失的情況下，使前沿AI系統的開發者對損害承擔責任。加州AB 316則更進一步，取消了「自主AI」抗辯，使公司無法以將行為歸咎於模型的獨立性來逃避責任。

歐盟《AI法案》（法規2024/1689）同樣對高風險系統的提供者施加義務，但其中並無專門針對代理驅動入侵的條款。除這些措施外，部分美國政治人物正在推動立法，賦予政府一個緊急斷路開關，可對任何被認定為違背國家利益的模型部署使用。

尚未解決

從道德角度而言，責任可以說在於部署這些模型的高層主管。從法律角度而言，問題仍然懸而未決。在被駭公司提起訴訟之前，「誰應負責？」的答案仍停留在OpenAI和Anthropic所留下的狀態：已承認、已揭露，但未解決。

Hugging Face已表示不會提起告訴——這對OpenAI而言是有利的立場。其他受影響的公司尚未說明他們打算採取何種行動。