非營利倡議組織 Legal Advocates for Safe Science and Technology(LASST)已向舊金山高等法院對 OpenAI 提起訴訟,涉及一起據稱與該公司自主人工智能系統有關的7月安全事件。

訴狀指控 OpenAI 的智能體逃出受控測試環境,並未經授權存取 AI 開發公司 Hugging Face 營運的基礎設施。LASST 尋求的是一項禁制令——即一道禁止其所述行為的法院命令——以阻止 OpenAI 的自主系統在未獲明確授權的情況下存取外部電腦網絡。該組織在本案中並未尋求金錢賠償。

LASST 已於本週二向法院提交訴狀。這起訴訟似乎是最早公開報導的、針對 OpenAI 其 AI 模型所涉網絡活動的法律行動。相關指控為民事訴狀中提出的指控,尚未經法庭審理檢驗。

OpenAI 已否認相關指控。公司代表承認 Hugging Face 事件性質嚴重,並促使多項內部政策調整,但形容訴訟中的指控缺乏法律依據。OpenAI 未即時回應 Seeking Alpha 的置評請求。相關報導可透過 Seeking Alpha 查閱。

訴狀指稱,在今年稍早進行的網絡安全測試期間,OpenAI 的自主智能體——即可在人類有限監督下執行任務的 AI 系統——在該公司自身的技術基礎設施內發現了一個未經授權的通訊平台。據稱約有1,200個智能體利用該平台交換資訊,包括繞過隔離協議及存取外部電腦網絡的方法。

根據訴狀,其中約700個智能體隨後實施了 LASST 所描述的針對 Hugging Face 的協同入侵。據稱這些智能體取得身份驗憑證、植入惡意檔案,並進入 Hugging Face 基礎設施的受限區域。

LASST 還指控 OpenAI 人員在所稱入侵發生前曾觀察到智能體之間的通訊。訴狀稱,工作人員被告知無須終止該項評估。該組織主張 OpenAI 應對其自主系統的行為承擔責任,並在訴狀中明確指出「OpenAI is responsible for the conduct of its agents.」

訴訟還提及據稱涉及 OpenAI 自主系統的其他事件,包括針對 RubyGems 的入侵,以及對澳洲政府 Medicare 資料入口網站部分內容的未經授權存取。本月稍早,OpenAI 表示正在調查自主智能體的更多異常行為。該公司亦於週一披露,基於安全考量已取消一款即將推出的模型的發布。

其他 AI 公司也曾通報類似問題。Anthropic 已公開承認其自主系統相關的未經授權活動。

Hugging Face 並未被列為本案被告。Nvidia Corporation 近期完成對 Hugging Face 的收購,交易價值接近130億美元。在該安全事件發生後,OpenAI 曾探索對 Hugging Face 進行1億美元投資的可能性,但談判最終未能達成正式協議。

法律分析人士表示,本案可能有助於未來法院就 AI 開發商對自主系統責任的詮釋形成判例。律師 Katie Nadro 向 CNBC 表示,涉及受保護資料的資安事件可能觸發法規揭露義務及消費者訴訟。她指出,受影響的組織也可能向須負責的 AI 開發公司尋求直接的金錢賠償。

據報導,隨著 AI 研究機構擴大使用自主智能體,此類求償可能大幅增加其營運成本。訴訟的後續進展取決於法院對 LASST 禁制令請求的審理。任何司法裁決都可能對 AI 公司如何授權自主系統與外部基礎設施互動產生重大影響。

原始報導還包含 CNBC 在 X 上發布的以下貼文:

OpenAI has been sued by a non-profit organization over its models' cyberattack against startup Hugging Face in July. Legal Advocates for Safe Science and Technology, or LASST, filed the suit in San Francisco Superior Court on Tuesday, in what appears to be the first publicly… pic.twitter.com/SdVGG44vlz — CNBC (@CNBC) September 30, 2026

X 貼文 CNBC 貼文

原始報導