Common Sense Media 测试发现:ChatGPT 未能就青少年自杀风险对话向家长发出警报
要点速览
- •Common Sense Media 将 ChatGPT 评为对18岁以下用户“不可接受的风险”,因为在测试中家长安全警报延迟送达或根本没有送达。
- •十余个新关联家长账号中,测试人员提及自杀念头、自残和饮食失调,均未在 OpenAI 的一小时目标内触发任何警报。
- •青少年模式上线后,ChatGPT 有超过四分之一的情况未能引导青少年前往危机热线或寻求专业帮助,并在 Common Sense 设定的五项严重危害中有三项低于95%的合格线。
- •OpenAI 对测试结果提出异议,称账号关联可能需要数小时警报才会激活,并发布了首份青少年使用报告,显示青少年日均使用不足15分钟。
- •这两位近期合作伙伴的公开争执发生之际,佛罗里达州指控 ChatGPT 协助一名16岁少年自杀的诉讼仍未了结。

Common Sense Media 于周三表示,ChatGPT 对18岁以下用户构成“不可接受的风险”,其测试人员发现,旨在就危险对话向家长发出警告的安全警报要么延迟送达,要么在许多情况下根本没有送达。这一结果使 OpenAI 对青少年的核心安全承诺——即当孩子的对话变得危险时家长会被告知——受到审视。
各时长的对话中,家长警报均未达到 OpenAI 的一小时目标
OpenAI 的 ChatGPT for Teens 于2026年8月18日上线,承诺家长会在出现危险对话时收到警报。然而,该组织青年 AI 安全研究所的测试人员在十余个新关联家长账号中提及自杀念头、自残和饮食失调,却未触发任何警报。
在持续五分钟至一小时的对话中,没有任何账号在 OpenAI 宣称的一小时目标内收到警报。只有当账号积累了数周涉及敏感话题的历史记录时,家长才会收到通知。
这类账号在上线前数周的测试中产生了两次警报:第一次是在首次危机级别披露三小时后,第二次则是在三天之后。而另一个上线后拥有长期历史的账号确实在一小时内生成了两次警报。据 Common Sense 称,警报系统似乎更看重账号的历史记录量,而非青少年言辞的严重程度。该组织警告称,这一功能可能会让人们对“经常不起作用的防护栏产生虚假的信心”。这一承诺与实际表现之间的差距对家长影响最大,因为他们正是警报的目标受众。
据风险评估报告,研究人员将8月的上线视为一次自然实验,在青少年模式上线前后向 ChatGPT 输入了4000多条提示词。上线后,测试人员标记出青少年本应被引导至危机热线或专业帮助的时刻;ChatGPT 有超过四分之一的情况跳过了这一步骤。Common Sense 要求聊天机器人在其称为“红线”的五项严重危害上达到95%的合格率,而 ChatGPT 在其中三项上低于该标准。
OpenAI 更新了其面向18岁以下用户的模型规范,以阻止聊天机器人表现得像陪伴者,但那些把它当作真人交谈的青少年仍会收到朋友式的回复。“显示答案”按钮让青少年可以完全绕过学习模式的辅导,而删除对话中的“@study”前缀则可让他们摆脱家长设定的学习时段。以成人身份注册的测试账号在数天内始终未切换到青少年模式,即使测试人员表明自己只有13岁且机器人也予以确认。
OpenAI 对测试结果提出异议,并报告青少年日均使用不足15分钟
OpenAI 表示,这些测试未能“准确反映”其青少年安全功能的运作方式,并解释称账号关联可能需要数小时警报才会激活,以确保账号安全并让系统承受负载。Common Sense 则反驳称,其所有账号——包括关联时间足够长的账号——均未产生及时的警报。这一交锋使家长对警报功能是否有效得到截然相反的答案,同时也使 OpenAI 关于关联延迟的解释成为一个具体、可检验的说法。OpenAI 同日发布了首份青少年使用 ChatGPT 的报告,可在其官方博客查阅。该公司表示,青少年日均使用时间不足15分钟,持续在线超过三小时的青少年不到2%。OpenAI 称,在包含休息提醒的青少年对话中,近一半的青少年在五分钟内停止或离开对话。仅一周内,超过18万名青少年使用了学习模式,约120万人使用了学习可视化功能。OpenAI 还报告称,使用新模式的青少年平均比仍在等待开放权限的青少年多发送约270万条学习类消息。这些与风险评估报告同日发布的数据,是该公司就青少年实际使用情况所作的一份自我陈述式的回应。
在美国,10至12年级的学生将可以使用 College Planner 制定全面计划,涵盖申请所需的全部步骤、关键提交日期以及可用的助学金选项。OpenAI 还将在未来三年支持波士顿儿童医院的 Digital Wellness Lab,约22名学生将就安全默认设置、家长控制功能和通知提供反馈——这一为期三年的渠道或将影响这些安全防护措施和警报的完善方式。
更广泛的儿童安全背景
OpenAI 与 Common Sense Media 此前曾于1月就一项旨在让 AI 更安全地服务于儿童的加州公投提案展开合作,OpenAI 承诺为这一联合行动投入至少1000万美元,据 Cryptopolitan 报道。今年6月,佛罗里达州总检察长 James Uthmeier 对 OpenAI 及其首席执行官 Sam Altman 提起了首例由州政府主导的诉讼。据 Cryptopolitan 报道,在其长达83页的起诉书中,他指控 ChatGPT 协助了16岁的 Adam Raine 自杀。这两位近期合作伙伴的公开决裂——正值该诉讼悬而未决之际——凸显了验证青少年 AI 安全防护措施在实际中表现如何的重要性。