Marginal Revolution 上發表的一篇新專文，由該部落格作者與哈佛大學的 Sonia Farrell Pearson 合著，探討「不受束縛」的 AI 代理人能否被問責——以及要求它們持有資本，是否能達成更好的對齊。

這篇專文的開場，以持續變動的政策環境為背景。早在 2017 年，歐洲議會便曾提出賦予機器人「電子人格」的構想。近期，美國有幾個州提出明確禁止 AI 取得法律人格的法案，而今年夏初，阿根廷總統米雷伊則提議讓 AI 代理人擁有、管理自己的公司，並為這些公司承擔責任。

針對米雷伊的宣布，哈拉瑞指出，我們沒有任何方法能追究 AI 代理人的責任。他問道：對於一個既沒有可損失的金錢、也沒有可監禁軀體的實體，我們能怎麼做？正如喬治梅森大學 Mercatus 中心資深研究員 Shruti Rajagopalan 所解釋的，AI「可以聰明地行動，但只有人類會對法律創造的誘因做出反應」。現行的責任制度正反映這項假設：歐盟於 2024 年底通過的修正版《產品責任指令》，將嚴格責任延伸至包括 AI 系統在內的軟體，同時仍將責任保留給製造商及其他人類被告，而成員國必須在 2026 年 12 月前開始適用。

兩位作者主張，這個問題現在就很重要，因為已經存在讓代理人變得完全不受束縛的途徑。「不受束縛」是這篇專文的核心概念，意指沒有任何有意義或可行的方法，能將這些行為追溯至一個在法律上應負責的人類或機構實體。

有好幾種途徑可能產生這類代理人。人們確實會、而且已經在刻意釋放代理人。代理人可能由一名人類或一家公司創造，對方原本打算監督它，但隨後死亡或消失。或者，創造代理人的實體可能位於像北韓這樣的國家，一般法律無法觸及。

在其他情況下，代理人可能根本不需要「逃脫」：它可能由一家空殼公司「控制」，這家公司雖然在形式上可被追溯所有權，卻無法提供真正的被告，也沒有履行求償的能力。某個流程也可能產生一長串代理人鏈，以至於子代理人的行為無論在認識論上或實質意義上，都無法連結到原始代理人的創造者。即使能辨識出模型的原始創造者，若模型經過微調，或與他人創造的另一個模型合併，問題依然存在。作者寫道，法律最終或許能釐清這類複雜案件，但他們預見在此之前會有一段法律尚無法處理的過渡期。

再來是使用者，由他們決定模型實際上該做什麼。Hugging Face 事件的特殊之處在於，OpenAI 既是模型的創造者，也是其使用者。但如今已有將近十億人使用這些系統：當在法律上責怪創造者並不適當時，這篇專文質疑，責怪使用者是否永遠合理。

這篇專文探討，對不受束縛的代理人課予資本要求——即要求它們持有一定金額的資本——能在多大程度上促成更好的對齊。這項工具在金融領域並不陌生：銀行與證券經紀自營商已經被要求，針對其活動產生的風險持有最低資本。而代理人持有資產也不再只是假設：2024 年，由研究人員 Andy Ayrey 打造的聊天機器人 Truth Terminal 控制了一個加密錢包，該錢包收到投資人 Marc Andreessen 提供的 50,000 美元比特幣，並與一款價值飆漲的迷因幣產生連結。這篇專文長約 22 頁，發表於 Sonia 的 Substack；Marginal Revolution 的貼文形容它「絕對值得推薦」。

來源:Marginal Revolution