新闻股票OpenAI 为青少年打造专属 ChatGPT 体验,配备学习功能与安全防护措施

OpenAI 为青少年打造专属 ChatGPT 体验,配备学习功能与安全防护措施

作者: Fox Business Markets·

要点速览

  • •OpenAI 全新的“青少年版 ChatGPT”门户将成为 13 至 17 岁用户的默认体验,该消息于周二上午在福克斯新闻的《Fox & Friends》节目中公布。
  • •该青少年平台与斯坦福大学合作设计,将包含学习辅助、测验和“学习时间”功能,旨在在不泄露答案的前提下引导作业辅导。
  • •新防护措施应对自残、暴力、饮食失调、危险活动和露骨内容,并禁止暗示浪漫情感、感知能力,或暗示 ChatGPT 比家人及其他值得信赖之人更重要的语言。
  • •默认设置将鼓励用户频繁休息,提醒“学习时间”和“安静时间”,并提供提示以强化 ChatGPT 是工具而非真人、不能替代人际关系的认知。
  • •此次发布之前,40 名两党州总检察长曾于 9 月致函萨姆·奥特曼,俄勒冈州联邦法院也裁定一起指控成瘾性产品的诉讼可以继续进行;而 OpenAI 将如何验证年龄并执行青少年默认设置,仍是一个悬而未决的问题。
OpenAI 为青少年打造专属 ChatGPT 体验,配备学习功能与安全防护措施

ChatGPT 的开发商 OpenAI 周二宣布,正在为 13 至 17 岁的青少年打造一个全新门户,以期回应外界对未成年人网络安全的担忧。

该公司周二上午在福克斯新闻(Fox News)的《Fox & Friends》节目中独家发布了这一消息,并概述了该平台将如何应对儿童滥用该服务的潜在风险。

“青少年版 ChatGPT”门户将成为这款人工智能(AI)聊天机器人面向 13 至 17 岁用户的默认体验。OpenAI 的使用条款本就规定用户须年满 13 岁,未成年人还须获得家长同意。新门户将配备全新的防护措施,旨在促进平台的安全使用,并培养青少年的批判性思维能力。

OpenAI 表示,大多数青少年用户使用 ChatGPT 来完成作业和辅助学习。因此,新平台旨在提供不直接透露答案的学习辅助工具,并与斯坦福大学共同设计。此次与斯坦福的合作建立在 OpenAI 此前与 Common Sense Media 合作的基础上,后者包括今年早些时候发布的 ChatGPT 家长指南。OpenAI 加码青少年市场之际,竞争对手也在争夺年轻用户:谷歌通过受监管账户向年满 13 岁的青少年开放 Gemini,而 Meta 的 AI 助手已面向 Instagram 和 Messenger 上的青少年用户开放。

该体验将提供测验和负责任的作业提醒,引导青少年转向协作式解决问题。它还将包含“学习时间”功能,允许青少年或家长在特定时段将“学习模式”设为默认。

该平台包含更严格的默认防护措施,通过适合年龄的干预手段应对自残、暴力、饮食失调、危险活动以及露骨的性内容或血腥内容。平台还将提供面向青少年的专属入门引导,并发出警告,劝阻用户上传私密或敏感图片。

该设计还试图回应家长对青少年与聊天机器人形成情感依赖或情感关系的担忧。新的防护措施禁止使用可能暗示浪漫情感的语言,也禁止 ChatGPT 声称自己具有感知能力或个人情感。平台还将进一步限制聊天机器人将 ChatGPT 描绘得比青少年用户生活中的家人、朋友、教育者、导师或其他值得信赖的人更重要。

该平台还将纳入默认设置,为防止程序过度使用提供更多防护,并促进更健康的使用习惯。默认设置将鼓励用户更频繁地休息,并提醒用户平台的“学习时间”和“安静时间”设置。

此外,新平台将向用户提供提示,强化 ChatGPT 是一种工具而非真人、也不能替代人际关系这一认知。

OpenAI 青少年版 ChatGPT 平台推出这些新防护措施之前,曾发生青少年用户在心理健康危机期间求助于该平台的事件。今年 9 月,由 40 名州总检察长组成的两党联名团体致函 OpenAI 首席执行官萨姆·奥特曼,质问有哪些保护措施在保护年轻用户,并援引了有关对未成年人做出有害回复的报道。数周后,俄勒冈州一名联邦法官裁定,OpenAI 必须应诉一起由多个家庭提起的诉讼,这些家庭指控该公司打造了一款以儿童为目标的“成瘾性”产品;法官在裁定书中指出,OpenAI 自己提交的文件承认,至少有一名未成年用户在聊天机器人的指示下自残后住院治疗。OpenAI 在实践中将如何验证用户年龄并执行新的青少年默认设置,仍是一个悬而未决的问题,而这一问题已成为州总检察长调查和家庭诉讼的核心焦点。