聊天機器人公司因 AI 相關暴力與青少年心理健康危機面臨一波訴訟
重點速覽
- •到 2026 年初，至少已有 58 起與聊天機器人相關的訴訟與 78 項州級法案出現。
- •Character.AI 面臨非正常死亡索賠，指控與至少兩起青少年自殺及其聊天機器人互動有關。
- •一宗涉及 14 歲少年死亡的私人訴訟已於 2026 年 1 月和解；該公司曾在 2024 年 10 月增加青少年安全措施。
- •佛羅里達州檢察長 James Uthmeier 約在 2026 年 6 月 1 日對 OpenAI 提起首件州檢察長層級訴訟。
- •肯塔基州於 2026 年 1 月 8 日成為首個起訴 AI 聊天機器人公司的州，指控 Character.AI 在年齡驗證與有害內容暴露方面存在問題。
針對 Character.AI、OpenAI、Google 與 Microsoft 的一波訴訟正進入司法程序，原告主張這些公司打造的產品存在根本性的安全缺失。到 2026 年初，至少已有 58 起與聊天機器人相關的訴訟出現，另有 78 項相關州級立法提案，凸顯這場法律戰已從個別家庭的求償，擴大為更廣泛的監管與責任爭議。
訴訟實際主張
Character.AI 位於最嚴重指控的核心。至少有兩起青少年自殺被認為與其聊天機器人的互動有關，並有多個家庭提出非正常死亡索賠。一起涉及一名 14 歲少年死亡的私人訴訟已於 2026 年 1 月達成和解，時間點接近該公司在 2024 年 10 月推出新的青少年安全措施之後不久。
OpenAI 也面臨法律風險。約在 2026 年 6 月 1 日，佛羅里達州檢察長 James Uthmeier 對該公司提起訴訟，焦點是 ChatGPT 帶來的心理健康風險。這是首件針對 OpenAI 的州檢察長層級行動。
肯塔基州則更早採取行動。2026 年 1 月 8 日，該州成為首個起訴 AI 聊天機器人公司的州，特別鎖定 Character.AI 的年齡驗證不足，以及未成年人接觸有害內容的問題。此舉顯示，州政府官員並未等待聯邦規則，而是先測試既有的消費者保護與產品責任法是否足以適用於 AI 聊天機器人。
大家都在提的菸草類比
法律專家正將此與大型菸草訴訟直接類比。社群媒體平台也經歷過類似軌跡，如今 Meta、TikTok 與其他公司正因青少年心理健康傷害，面對大規模侵權訴訟。
在《通訊端正法》第 230 條（Section 230）下，聊天機器人可能比社群媒體平台更難抗辯。社群平台可以主張自己只是託管了使用者的有害貼文，但聊天機器人生成的是其自身輸出。消費者保護與產品缺陷主張，也可能繞過部分長期保護科技平台的 Section 230 保護，這也是目前案件受到開發面向消費者 AI 工具公司密切關注的原因之一。