Marginal Revolution 上新发布的一篇论文由该博客作者与哈佛大学的 Sonia Farrell Pearson 合著,探讨“脱缰”的 AI 智能体能否被追究责任——以及要求其持有资本金是否有助于实现更好的对齐。

这篇论文开篇的背景是不断变化的政策环境。早在2017年,欧洲议会就曾提出赋予机器人“电子人格”。最近,美国少数几个州提出了明确禁止 AI 获得法律人格的立法;而今年初夏,阿根廷总统米莱提议允许 AI 智能体拥有、管理自己的公司,并由其承担责任。

针对米莱的提议,尤瓦尔·诺亚·赫拉利指出,我们没有办法追究一个 AI 智能体的责任。他问道:对一个既没有可损失的金钱、也没有可监禁之躯的实体,我们能做什么?正如乔治·梅森大学 Mercatus 中心高级研究员 Shruti Rajagopalan 所解释的,AI“可以智能地行动,但只有人类才会对法律创造的激励作出反应”。现行责任制度正体现了这一假设:欧盟于2024年底通过的新版《产品责任指令》将严格责任扩展至包括 AI 系统在内的软件,同时把责任保留给制造商及其他人类被告,成员国须在2026年12月前予以实施。

作者们认为,这个问题现在就很紧要,因为已存在多种途径可让智能体完全“脱缰”。“脱缰”是这篇论文的核心概念,意指不存在任何有意义或可执行的方式,能将智能体的行为追溯到一个应承担法律责任的人类或机构实体。

多条路径都可能产生这类智能体。人们可以且确实会有意“放生”智能体。一个智能体可能由某个本打算对其加以监督的人或公司创建,但后者随后死亡或消失。又或者,创建该智能体的实体可能位于朝鲜等常规法律无法触及的国家。

在其他情况下,智能体或许根本无需“逃脱”:它可以被一家空壳公司“控制”,而这家公司虽然在形式上有主、可追溯,却提供不了真正的被告,也没有清偿索赔的能力。某个流程还可能生成一条长到极致的智能体链,以至于子智能体的行为无论在认识论上还是实质意义上,都无法与原始智能体的创建者挂钩。即便能够识别出模型的原始创建者,如果模型经过了微调,或与另一个由他人创建的模型合并,问题依然存在。作者写道,法律或许终能厘清这类复杂案件,但他们预见会出现一个法律尚无法应对的中间时期。

再者是用户,是他们决定模型实际该做什么。Hugging Face 事件的不同寻常之处在于,OpenAI 既是模型的创建者,又是其用户。但如今有近十亿人在使用这些系统:当追究创建者的责任在法律上并不适当时,该文问道,追究用户的责任是否总是说得通?

这篇论文探讨的是,对“脱缰”智能体施加资本约束——即要求它们持有一定数额的资本金——能在多大程度上服务于更好的对齐。这一工具在金融领域并不陌生:银行和经纪自营商已被要求持有最低资本金,以覆盖其活动所产生的风险。而智能体持有资产已不再是假设:2024年,由研究员 Andy Ayrey 构建的聊天机器人 Truth Terminal 控制了一个加密货币钱包,该钱包收到投资者 Marc Andreessen 汇入的 50,000 美元比特币,并随后与一种价值飙升的迷因币产生关联。这篇论文长约22页,发表在 Sonia 的 Substack 上;Marginal Revolution 的帖子称其“绝对值得一读”。

来源:Marginal Revolution