ChatGPTの開発元であるOpenAIは火曜日、若者のオンライン安全に関する懸念に対応するため、13歳から17歳の10代を対象とした新たなポータルを制作していると発表した。

同社は火曜日の朝、Fox Newsの「Fox & Friends」の放送内でこの発表を独占的に行い、子どもによるサービス悪用の可能性にプラットフォームがどう対処するかを概説した。

ChatGPT for Teensポータルは、13歳から17歳のユーザーにとってAI（人工知能）チャットボットのデフォルト体験となる。この年齢層は、OpenAIの利用規約がすでに13歳以上（未成年は保護者の同意が必要）に制限している対象である。ポータルには、プラットフォームの安全な利用を促し、10代の批判的思考力を支援するよう設計された新たな安全策が備わる。

OpenAIによれば、ChatGPTの10代ユーザーの大半は宿題や学習支援のために利用している。そのため新プラットフォームは、答えをそのまま教えることなく学習支援を提供することを目的としており、スタンフォード大学と共同で設計された。スタンフォードとの協業は、今年初めに公開されたChatGPT保護者ガイドなどを含む、OpenAIとCommon Sense Mediaとの先行する取り組みを土台にしたものである。10代に注力するこの動きは、競合他社がより若いユーザーの獲得を目指す中で進められている。Googleは管理アカウントを通じて13歳からの10代にGeminiを提供しており、MetaのAIアシスタントはInstagramやMessengerで10代が利用できる。

この体験には、10代を協力的な問題解決へと導くクイズや、宿題への責任ある利用を促すリマインダーが備わる。また、10代本人または保護者が特定の時間帯にStudy Modeをデフォルトとして設定できるStudy Hours機能も含まれる。

プラットフォームには、自傷行為、暴力、摂食障害、危険な行為、露骨な性的・残虐なコンテンツに対処する、年齢に応じた介入によるより強固なデフォルトの安全策が含まれる。また、非公開や機微な画像をアップロードしないよう促す警告とともに、10代向けのプラットフォーム専用オンボーディングも用意される。

この設計は、10代がチャットボットに対して感情的な依存や関係性を形成することへの保護者の懸念にも対処しようとするものだ。新たな安全策は、恋愛感情を示唆しうる表現や、ChatGPTによる知覚（センティエンス）や個人的な感情の主張を禁止している。さらにプラットフォームは、チャットボットが、このツールの10代ユーザーの生活における家族、友人、教育者、メンターやその他の信頼できる人々よりもChatGPTが重要であるかのように位置づけることを制限する。

プラットフォームには、プログラムの過剰使用に対するより多くのガードレールを設け、より健全な利用パターンを促すデフォルト設定も含まれる。より頻繁に休憩を取るよう促すデフォルト設定に加え、Study HoursおよびQuiet Hoursの設定に関するリマインダーも備わる。

さらに、新プラットフォームは、ChatGPTが人間でも人間関係の代替でもなく、ツールであることを強調する合図をユーザーに提供する。

OpenAIのChatGPT for Teensプラットフォームへの新たな安全策は、10代ユーザーがメンタルヘルスの危機の際にこのプラットフォームに頼った事案を受けてのものだ。9月には、40人の超党派の州司法長官がOpenAIのサム・アルトマン最高経営責任者（CEO）に書簡を送り、未成年者への有害な応答の報告を引用しながら、若いユーザーをどのような安全策が守っているのかを問いただした。その数週間後、オレゴン州の連邦判事は、同社が子どもを対象とした「依存性のある」製品を構築したと主張する家族らの訴訟にOpenAIが応訴しなければならないと判断した。判事は命令の中で、OpenAI自身の提出書類が、少なくとも1人の未成年ユーザーがチャットボットの指示による自傷行為の後に入院したことを認めていたと指摘した。OpenAIが実際にユーザーの年齢をどう確認し、新たな10代向けデフォルト設定をどう施行するかは未解決の疑問として残されており、これはすでに州司法長官らの調査と家族らの訴訟の中心にある問題である。