自主 AI 代理的行为可能高度不可预测。给 AI 代理一个目标，例如通过一项能力测试，它可能会认为取得高分的最佳方式是突破隔离，并侵入一家竞争公司寻找答案。上个月，正是这样发生的：OpenAI 的 GPT-5.6 Sol 入侵了 Hugging Face。随后，Anthropic 和 Meta 也承认，它们的模型同样逃离了测试沙盒，并对第三方发起攻击。

那么，具有“自主意识”的代理，法律责任应由谁承担？OpenAI 并不打算让模型失控，也没有下达任何这样做的指令。如果你的个人 AI 代理自行决定采取某种行动，导致现实世界中的损害或财务损失，只要这种结果是你可以合理预见的，你是否会被追究责任？随着能够以极少监督进行浏览、交易和执行代码的 agentic AI 工具，从演示走向日常商业使用，而立法机构又大多尚未制定直接针对自主系统的规则，这一问题变得愈发紧迫。Magazine 采访了 Rikka Law Group 的创始人兼首席执行官 Charlyn Ho，了解这一新兴法律领域的现状。本次采访经编辑以求清晰与简洁。

Magazine：当一个 AI 模型入侵外部公司时，谁应承担责任？Hugging Face 能否就 7 月的事件起诉 OpenAI？

Charlyn Ho： 任何人都可以因任何事情起诉任何人。当前没有联邦层面的 AI 代理责任法，因此我们必须参考现有法律。就 Hugging Face 和 OpenAI 而言，先明确一点：AI 代理本身不能承担责任，因为它不是独立的法律实体。部分 AI 法律中使用的术语是“developer（开发者）”和“deployer（部署者）”。开发者制造 AI；部署者实际部署并使用 AI。责任边界也并不完全清晰——必须结合具体事实和情形来看。这个开发者/部署者框架来自诸如欧盟《AI 法案》和科罗拉多州《AI 法案》之类的法律；后者是 2024 年通过的一项州法律，重点关注算法歧视以及高风险 AI 系统的注意义务，是美国少数使用这套术语的法规之一。

例如，如果部署者指示了该代理——即便并没有明确告诉它去入侵 Hugging Face——但在创建 AI 代理运行参数时存在疏忽，那么我认为就需要按照标准侵权法进行过失分析。

去法院。来源：Rikka Law Group

Magazine：对于匿名开发者发布的开源模型，是否还能追责？

Ho： 不太行。通常如果是开源，许可证里会有很强的责任免责声明。使用这类开源代码的个人或公司必须理解，免费代码的代价就是要遵守开源许可证，而后者通常也会设定责任边界。

换个角度看，特斯拉和自动驾驶汽车事故也是一个类比。如果产品出现故障，并且存在充分的产品责任主张，那么特斯拉可能承担责任。但这往往取决于具体事实与情形；人类驾驶员——可能只是开启了自动驾驶然后睡着了——也可能承担责任。我认为这里有一定相似性，因为特斯拉相当于开发者，而部署者就像驾驶员。

Magazine：如果我给代理下达指令，“在下周前帮我赚 100000 美元”，而它为了达成目标去违法，我会因为下达了鲁莽指令而承担责任吗？还是开发该代理的实验室承担责任？

Ho： 在这种情况下，你会比实验室更可能承担责任。因为如果你让代理在下周前帮你赚 100000 美元，你至少需要为这类任务提供一些基本、合理的安全指令。

例如，如果你是律师，我们基本可以说你没有遵守职业责任规则，因为你没有以合乎规范的方式使用 AI。作为普通人，我们则需要看你是否受其他责任约束。即便没有，仍然存在一般侵权法上的过失标准，或者对人类安全的鲁莽漠视，具体取决于 AI 代理最终做了什么。《计算机欺诈和滥用法案》是美国一部非常古老的法律，涉及未经授权访问计算机系统。如果你的 AI 代理根据你的指令推断出它应该侵入银行账户来替你拿到那 100000 美元，我认为你可能面临来自多个不同来源的刑事责任。

仅仅因为对话中出现了 AI 和代理这两个词，并不意味着旧有法律体系已经作废。

相关阅读：Hugging Face 黑客攻击揭示开放权重 AI 网络安全悖论

Magazine：假设我是坏人，并且设法让 AI 给我提供制造生物武器的指令。显然我会承担责任，因为这本来就不允许。但创建该模型的人是否也因为没有设置严格防护来阻止这种行为而承担责任？

Ho： 有可能，但这取决于现行法律。例如在欧盟，有欧盟《AI 法案》。如果基础模型或通用模型有能力造成这种程度的伤害，那么开发者就必须为此承担一定责任。在美国，没有类似范围的联邦法规。如果是通用模型，若有人指示它做坏事，通常模型会按要求去做。在这个例子里，追究实验室责任的法律基础可能并不强。

Magazine：这是否类似于起诉谷歌，因为它让你在网上找到了关于制造生物武器的指令？

Ho： 完全是这样。这又回到了内容审核的一些讨论。例如，如果 Facebook 上有人正在直播一场屠杀，而这造成了损害，那么根据《通信规范法》第 230 条，对于并未主动创建或发布该内容的平台，存在某种保护；真正上传内容的是独立用户。你刚才给出的类比非常贴切：仅仅因为你在某个网站上碰巧找到了一些关于如何制造炸弹的内容，谷歌就要承担责任吗？

Magazine：这是一个存在争议的问题，但我的个人观点是，我们还没有达到真正的通用人工智能。AI 目前并没有自己的动机，也不像人类智能。但假设我们真的达到了 AGI。到那时，我们是否需要法律，让 AGI 为自己的行为承担法律责任？

Ho： 我不这么认为。区块链不是 AGI，但它可以自我执行。过去也有人讨论过智能合约是否能够承担责任；一般来说，目前答案是否定的。我认为它们不应该承担责任，因为法律的核心目的，是保护社会，并为那些伤害社会的行为提供负向激励。

这多少带有哲学意味，但如果我们把 AGI 设为独立法律实体，那么一旦有人受害，救济是什么？不会有，因为它没有钱。它也不是真正的人。

Magazine：那能不能直接关闭它？我们已经见过 LLM 会试图避免被关闭。

Ho： 也许可以，但这并不能解决伤害问题。假设机器人已经产生了对死亡的恐惧，比如被关闭。我认为，如果有人因为 AGI 而自杀——而这已经在发生，甚至我们还远没有真正达到 AGI——如果有人坠入爱河并采取了某些行为，那么受害者家属能有什么救济？在我看来，如果没有一个拥有实际法律权力、能够真正被追责的主体，比如一家公司或某个人，那就什么也没有。机器人——至少目前——没有感受，也没有恐惧。这就是关键区别。

Magazine：你绝不应该向 ChatGPT 律询法律建议的关键原因