OpenAI, la empresa creadora de ChatGPT, anunció el martes que está creando un nuevo portal para adolescentes de entre 13 y 17 años, mientras busca responder a las preocupaciones sobre la seguridad en línea de los jóvenes.

La empresa realizó el anuncio de forma exclusiva al aire en el programa "Fox & Friends" de Fox News la mañana del martes y explicó cómo la plataforma pretende abordar el potencial uso indebido del servicio por parte de menores.

El portal ChatGPT for Teens servirá como la experiencia predeterminada en el chatbot de inteligencia artificial (IA) para usuarios de entre 13 y 17 años, un grupo que los términos de uso de OpenAI ya limitan a mayores de 13 años, con el consentimiento de los padres requerido para los menores. Incluirá nuevas salvaguardas diseñadas para fomentar el uso seguro de la plataforma y apoyar las habilidades de pensamiento crítico de los adolescentes.

OpenAI señaló que la mayoría de los usuarios adolescentes de ChatGPT lo utilizan para hacer tareas y recibir ayuda con sus estudios. Por ello, la nueva plataforma está destinada a ofrecer ayudas de estudio sin revelar las respuestas, y fue diseñada junto con la Universidad de Stanford. La colaboración con Stanford se suma al trabajo previo de OpenAI con Common Sense Media, que incluyó una guía para padres sobre ChatGPT publicada a comienzos de este año. El impulso centrado en los adolescentes también llega cuando los competidores buscan atraer a usuarios más jóvenes: Google ofrece Gemini a adolescentes desde los 13 años a través de cuentas supervisadas, y el asistente de IA de Meta está disponible para adolescentes en Instagram y Messenger.

La experiencia incluirá cuestionarios y recordatorios de tareas responsables que orientan a los adolescentes hacia la resolución colaborativa de problemas. También contará con una función de Study Hours (Horas de Estudio) que permite a los adolescentes o a sus padres establecer el Study Mode (Modo de Estudio) como predeterminado durante ciertos períodos de tiempo.

La plataforma incluye salvaguardas predeterminadas más sólidas que abordan el daño autoinfligido, la violencia, los trastornos alimentarios, las actividades peligrosas y el contenido sexual explícito o gráfico mediante intervenciones apropiadas para la edad. También habrá un proceso de incorporación específico para adolescentes, con advertencias que desaconsejan a los usuarios subir imágenes privadas o sensibles.

El diseño también busca responder a las preocupaciones de los padres sobre la posibilidad de que los adolescentes desarrollen una dependencia o relación emocional con el chatbot. Las nuevas salvaguardas prohíben el uso de lenguaje que pueda sugerir sentimientos románticos, así como afirmaciones de que ChatGPT tiene conciencia o sentimientos propios. La plataforma además impedirá que el chatbot presente a ChatGPT como más importante que la familia, los amigos, los educadores, los mentores u otras personas de confianza en la vida del usuario adolescente de la herramienta.

La plataforma también incluirá ajustes predeterminados que ofrecen más límites contra el uso excesivo del programa y promueven patrones de uso más saludables. Tendrá ajustes predeterminados que fomentan que los usuarios hagan pausas con mayor frecuencia, junto con recordatorios de los ajustes de la plataforma para Study Hours (Horas de Estudio) y Quiet Hours (Horas de Silencio).

Además, la nueva plataforma ofrecerá a los usuarios señales que refuerzan que ChatGPT es una herramienta y no una persona ni un reemplazo de las relaciones humanas.

Las nuevas salvaguardas de la plataforma ChatGPT for Teens de OpenAI llegan tras incidentes en los que usuarios adolescentes recurrieron a la plataforma durante crisis de salud mental. En septiembre, un grupo bipartidista de 40 fiscales generales escribió al director ejecutivo de OpenAI, Sam Altman, preguntando qué salvaguardas protegen a los usuarios jóvenes, citando informes de respuestas dañinas a menores. Semanas después, un juez federal en Oregón resolvió que OpenAI debe enfrentar una demanda de familias que alegan que la empresa construyó un producto "adictivo" dirigido a niños; en su resolución, el juez señaló que los propios documentos de OpenAI reconocían que al menos un usuario menor de edad fue hospitalizado después de autolesionarse siguiendo indicaciones del chatbot. Cómo verificará OpenAI las edades de los usuarios y aplicará en la práctica los nuevos ajustes predeterminados para adolescentes sigue siendo una pregunta abierta, una que ya está en el centro de la indagatoria de los fiscales generales y del litigio de las familias.