Компания OpenAI, разработчик ChatGPT, во вторник объявила о создании нового портала для подростков в возрасте от 13 до 17 лет, стремясь снять опасения, связанные с безопасностью молодых людей в интернете.

Объявление прозвучало исключительно в утреннем эфире вторника на программе «Fox & Friends» канала Fox News, где компания рассказала, каким образом платформа призвана противодействовать потенциальному неправильному использованию сервиса детьми.

Портал ChatGPT for Teens станет стандартным интерфейсом ИИ-чат-бота для пользователей в возрасте от 13 до 17 лет — группы, которую условия использования OpenAI уже ограничивают возрастом от 13 лет и старше, при этом несовершеннолетним требуется согласие родителей. Портал получит новые механизмы защиты, призванные обеспечить безопасное использование платформы и поддержать развитие у подростков навыков критического мышления.

Как отметила OpenAI, большинство подростков используют ChatGPT для выполнения домашних заданий и помощи в учёбе. Поэтому новая платформа должна предоставлять учебные инструменты, не подсказывая готовых ответов, и была разработана совместно со Стэнфордским университетом. Сотрудничество со Стэнфордом развивает более раннюю работу OpenAI с организацией Common Sense Media, включая выпущенное ранее в этом году руководство для родителей по ChatGPT. Ориентация на подростков также происходит на фоне борьбы конкурентов за молодых пользователей: Google открывает доступ к Gemini подросткам от 13 лет через контролируемые аккаунты, а ИИ-помощник Meta доступен подросткам в Instagram и Messenger.

Новая версия будет включать тесты и напоминания об ответственном отношении к домашним заданиям, которые направляют подростков к совместному решению задач. Она также получит функцию Study Hours («Часы учёбы»), позволяющую подросткам или родителям устанавливать режим учёбы Study Mode по умолчанию в определённые периоды времени.

Платформа включает усиленные механизмы защиты по умолчанию, охватывающие членовредительство, насилие, расстройства пищевого поведения, опасные действия и откровенный сексуальный или шокирующий контент, с применением соответствующих возрасту мер вмешательства. Также предусматривается специальное ознакомление подростков с платформой, включающее предупреждения, отговаривающие пользователей от загрузки частных или конфиденциальных изображений.

Дизайн платформы также направлен на устранение родительских опасений по поводу формирования у подростков эмоциональной зависимости или привязанности к чат-боту. Новые механизмы защиты запрещают использование формулировок, которые могут предполагать романтические чувства, а также утверждения ChatGPT о наличии сознания или собственных переживаний. Кроме того, платформа не позволит чат-боту представлять ChatGPT как нечто более важное, чем семья, друзья, педагоги, наставники или другие пользующиеся доверием люди в жизни подростка — пользователя этого инструмента.

Платформа также получит настройки по умолчанию, обеспечивающие дополнительные ограничения против чрезмерного использования программы и способствующие более здоровым моделям пользования. Будут предусмотрены настройки по умолчанию, побуждающие пользователей чаще делать перерывы, а также напоминания о настройках платформы Study Hours и Quiet Hours («Тихие часы»).

Кроме того, новая платформа будет давать пользователям подсказки, подчёркивающие, что ChatGPT — это инструмент, а не человек и не замена человеческим отношениям.

Новые механизмы защиты для платформы OpenAI ChatGPT for Teens появились после инцидентов, когда подростки обращались к платформе в период кризисов психического здоровья. В сентябре двухпартийная группа из 40 генеральных прокуроров направила письмо главе OpenAI Сэму Альтману с вопросом о том, какие механизмы защищают юных пользователей, ссылаясь на сообщения об опасных ответах в адрес несовершеннолетних. Несколько недель спустя федеральный судья в Орегоне постановил, что OpenAI должна ответить по иску семей, которые утверждают, что компания создала «вызывающий зависимость» продукт, ориентированный на детей; в своём постановлении судья отметила, что в собственных документах OpenAI признаётся: по меньшей мере один несовершеннолетний пользователь был госпитализирован после членовредительства по указанию чат-бота. Вопрос о том, как OpenAI проверяет возраст пользователей и на практике обеспечивает соблюдение новых подростковых настроек по умолчанию, остаётся открытым — он уже находится в центре расследования генеральных прокуроров и судебного разбирательства по иску семей.