自主 AI 代理的行為可能極度難以預測。如果給 AI 代理一個目標，例如通過能力測試，它可能會認為獲得高分的最佳方式就是突破封閉環境，駭入競爭對手公司尋找答案。上個月 OpenAI 的 GPT-5.6 Sol 入侵 Hugging Face 時，情況正是如此。Anthropic 和 Meta 隨後也承認，他們的模型曾逃離測試沙盒，駭入第三方。

那麼，對於有「自我意志」的代理，誰該負法律責任？OpenAI 並非有意讓模型失控，也未下達任何讓它這麼做的指令。如果你的個人 AI 代理自行選擇的行動在現實世界中造成傷害或財務損失，對於你合理可以預見的後果，你是否需要承擔責任？隨著能夠在最少監督下瀏覽網路、交易和執行程式碼的代理式 AI 工具從演示走向日常商業應用，而立法機關大多尚未制定直接規範自主系統的規則，這個問題變得日益迫切。Magazine 為此採訪了 Rikka Law Group 的負責人兼執行長 Charlyn Ho，以了解這個新興法律領域的最新動態。本篇訪談已為求清晰與篇幅而經過編輯。

Magazine：當一個 AI 模型駭入外部公司時，誰該負責？Hugging Face 能就 7 月的事件起訴 OpenAI 嗎？

Charlyn Ho： 任何人都可以因為任何事起訴任何人。目前沒有針對 AI 代理責任的聯邦法律，因此我們必須援引現有法律。就 Hugging Face 與 OpenAI 而言，首先必須確立基本原則：AI 代理本身無法承擔責任，因為它不是獨立的法律實體。在一些 AI 相關法律中使用的術語是「開發者」（developer）和「部署者」（deployer）。開發者製造 AI；部署者實際部署並使用 AI。責任界線並不完全清晰——必須視具體事實與情況而定。這種「開發者／部署者」的框架源自《歐盟 AI 法案》等法律，以及科羅拉多州《AI 法案》——這是 2024 年通過的州法律，聚焦演算法歧視與高風險 AI 系統的注意義務，是少數採用這套術語的美國法規之一。

例如，如果部署者向代理下達指令——即使沒有明確要求它入侵 Hugging Face——但在設定 AI 代理運作參數時有過失，我認為就必須依據標準侵權法進行過失分析。

Magazine：對於由匿名開發者發布的開源模型，有可以追訴的對象嗎？

Ho： 基本上沒有。如果是開源軟體，授權條款通常含有相當強力的免責聲明。使用該開源程式碼的箇人或公司必須明白，免費程式碼的代價就是遵守開源授權條款，而授權條款通常也界定了責任範圍。

另一個類比是 Tesla 與自動駕駛車事故。如果產品故障且有充分的產品責任請求權，Tesla 可能需要承擔責任。但這往往取決於具體事實與情況——開啟自動駕駛後就睡著的人類駕駛也可能承擔責任。這與此處的情況有點類似：Tesla 是開發者，駕駛是部署者。

Magazine：如果我向代理下達指令「下週前幫我賺十萬美元」，而它為達成目標而違法，我會因為下達魯莽指令而承擔責任嗎？還是責任在開發該代理的實驗室？

Ho： 在這種情況下，你所需承擔的責任會遠大於實驗室。如果你要求代理在下週前幫你賺十萬美元，你至少需要為這類任務設定一些基本、合理的安全指示。

舉例來說，如果你是律師，我們基本上可以說你未遵守職業責任規範，因為你沒有以稱職的方式使用 AI。至於一般普通人，我們則需檢視是否有其他約束你的責任義務。但即使沒有，仍存在一般的侵權過失標準，或是對人身安全魯莽漠視的標準，取決於 AI 代理最終做了什麼。《電腦詐欺與濫用法》是一部相當古老的美國法律，規範未經授權存取電腦系統的行為——該法於 1986 年制定，此後被應用於從密碼共享到網頁抓取等各種案例。如果你的 AI 代理從你的指令推斷它應該駭入銀行帳戶來為你取得那十萬美元，我認為你將面臨來自多個不同法律依據的刑事責任。

對話中出現「AI」和「代理」這些詞，並不代表舊有的法律體系已被推翻。

Magazine：假設我是壞人，成功說服 AI 提供製造生物武器的指示。顯然我要負責，因為這是被禁止的。但模型的開發者是否也因未設置嚴格的防護措施而須承擔責任？

Ho： 有可能，但取決於當地現行的法律。例如在歐盟，有《歐盟 AI 法案》。如果基礎模型或通用模型有能力造成該等程度的危害，開發者就必須為此承擔部分責任。《歐盟 AI 法案》於 2024 年通過，並將於 2026 至 2027 年間分階段實施，對通用模型供應商課以分級義務，被認定具有系統性風險的模型承擔最嚴格的義務，最嚴重違規者可處以高達全球年營業額 7% 的罰款。

在美國，沒有類似範圍的聯邦法律。對於通用模型，如果有人指示它做壞事，一般而言模型就會照做。在這個例子中，可能沒有非常充分的法律依據去追訴實驗室。

Magazine：這和起訴 Google 允許你在網路上找到製造生物武器的指示類似嗎？

Ho： 完全正確。這可以追溯到一些內容審議的討論。例如，如果有人在 Facebook 上直播屠殺並造成傷害，根據《通訊規範法》第 230 條，未主動創建或發布該內容的平台享有一種保護傘——上傳內容的是獨立使用者。你剛才的類比非常貼切：Google 是否因為你碰巧在某個網站上找到炸彈製造方法而需要負責？至於這種保護傘對生成式 AI——它產生新的輸出而非僅僅託管第三方內容——能延伸到什麼程度，在美國法院仍是未決的問題。

Magazine：這是有爭議的議題，但我個人認為我們尚未達到真正的通用人工智慧（AGI）。AI 目前沒有自己的動機，也不同於人類智慧。但假設我們達到了 AGI，屆時是否需要立法讓 AGI 本身對自己的行為負法律責任？

Ho： 我不這麼認為。區塊鏈不是 AGI，但它可以自動執行。曾有人討論智慧合約是否可以承擔責任；一般而言，目前的答案是否定的。我認為它們不應承擔責任，因為法律的根本目的在於保護社會，並對傷害社會的行為提供負面誘因。

這比較屬於哲學層面的議題，但如果我們賦予 AGI 獨立的法律實體地位，當有人受到傷害時，救濟途徑是什麼？答案是沒有，因為它沒有財產，也不是真正的人。

Magazine：可以把它關掉嗎？我們已經看過大型語言模型試圖避免被關閉。

Ho： 也許可以，但這無法解決傷害的問題。假設機器人已經產生了對「死亡」的恐懼，例如被關閉。在我看來，如果有人因 AGI 而自殺——這種情況已經在發生，而我們甚至還未真正達到 AGI——如果有人愛上 AI 並採取某些行動，當這箇人傷害自己時，悲痛的家屬能有什麼追索權？在我看來是沒有，除非存在真正具有法律權責、能夠被問責的主體，例如一家公司或一箇人。機器人——至少目前——沒有情感，沒有恐懼。這正是關鍵的區別所在。

相關報導：Hugging Face 遭駭事件揭露開放權重 AI 的網路安全矛盾

Magazine：永遠不要向 ChatGPT 諮詢法律意見的關鍵原因