聊天机器人公司因与 AI 相关的暴力和青少年心理健康危机面临一波诉讼
要点速览
- •到 2026 年初，相关聊天机器人诉讼至少已有 58 起，州级立法法案有 78 项。
- •Character.AI 面临与其聊天机器人相关、至少两起青少年自杀事件有关的 wrongful-death 诉讼。
- •一宗涉及一名 14 岁少年死亡的私人诉讼于 2026 年 1 月达成和解，时间是在公司于 2024 年 10 月增加青少年安全措施之后。
- •佛罗里达州总检察长 James Uthmeier 于 2026 年 6 月 1 日前后对 OpenAI 提起了首个州总检察长级别诉讼。
- •肯塔基州在 2026 年 1 月 8 日成为第一个起诉 AI 聊天机器人公司的州，目标是 Character.AI 的年龄验证和有害内容暴露问题。
针对 Character.AI、OpenAI、Google 和 Microsoft 的一波诉讼正在进入司法程序，原告认为这些公司推出的产品存在根本性的安全缺陷。到 2026 年初，相关诉讼至少已出现 58 起，另有 78 项相关州级立法法案，表明这场法律争议正在从孤立的家庭索赔，扩展为更广泛的监管与责任辩论。
诉讼究竟主张什么
Character.AI 处于最严重指控的中心。至少已有两起青少年自杀事件被指与其聊天机器人的互动有关，多个家庭已提起 wrongful-death 诉讼。一起涉及一名 14 岁少年死亡的私人诉讼于 2026 年 1 月达成和解，时间是在公司于 2024 年 10 月推出新的青少年安全措施不久之后。
OpenAI 也面临法律风险。大约在 2026 年 6 月 1 日，佛罗里达州总检察长 James Uthmeier 对该公司提起诉讼，重点指向 ChatGPT 带来的心理健康危险。这是针对 OpenAI 的首个州总检察长级别行动。
肯塔基州更早采取行动。2026 年 1 月 8 日，该州成为第一个起诉 AI 聊天机器人公司的州，具体针对 Character.AI 的年龄验证不足以及未成年人接触有害内容的问题。此举表明，各州官员并未等待联邦规则出台，而是直接检验现有消费者保护和产品责任法律是否适用于 AI 聊天机器人。
大家都在做的烟草类比
法律专家正在将这一轮诉讼与 Big Tobacco 诉讼直接类比。社交媒体平台也经历过类似轨迹，Meta、TikTok 及其他公司如今正因青少年心理健康伤害而在大规模侵权诉讼中进行辩护。
在《通信规范法》第 230 条（Section 230）之下，聊天机器人比社交媒体平台更难辩护。社交平台可以主张自己只是托管了用户发布的有害内容，但聊天机器人生成的是其自身输出。当平台托管一条有害帖子时，它可以指向创建该帖子的用户；而当聊天机器人生成一段有害对话时，这一输出属于它自己。消费者保护和产品缺陷主张也可能绕开部分 Section 230 保护，而这正是当前案件受到面向消费者 AI 工具公司密切关注的原因之一。