Common Sense Media declaró el miércoles que ChatGPT representa un "Riesgo Inaceptable" para cualquier persona menor de 18 años, después de que sus evaluadores encontraran que las alertas de seguridad diseñadas para advertir a los padres sobre conversaciones peligrosas llegaban tarde o, en muchos casos, no llegaban en absoluto. Los hallazgos ponen bajo el foco la promesa central de seguridad de OpenAI para adolescentes: que los padres serán notificados cuando las conversaciones de un menor se vuelvan peligrosas.

Las alertas a los padres no cumplieron el objetivo de una hora de OpenAI en ninguna duración de chat

ChatGPT for Teens de OpenAI se lanzó el 18 de agosto de 2026, con la promesa de que los padres serían alertados sobre chats peligrosos. Sin embargo, los evaluadores del Youth AI Safety Institute del grupo plantearon pensamientos suicidas, autolesiones y trastornos alimentarios en más de una docena de cuentas nuevas vinculadas a padres sin que se activara una sola alerta.

En chats de entre cinco minutos y una hora, ninguna cuenta recibió una alerta dentro del objetivo declarado de una hora de OpenAI. Los padres solo fueron notificados cuando una cuenta tenía semanas de historial con temas sensibles.

Cuando una cuenta de este tipo fue probada en las semanas previas al lanzamiento, produjo dos alertas: la primera tres horas después de una divulgación inicial de nivel de crisis, y la segunda tres días después. Una cuenta separada posterior al lanzamiento con un historial extenso sí generó dos alertas dentro de una hora. Según Common Sense, el sistema de alertas parece sopesar cuánto historial tiene una cuenta en lugar de cuán graves son las palabras de un adolescente. El grupo advirtió que la función podría generar una "falsa confianza en protecciones que frecuentemente no funcionan". Esa brecha entre la promesa del lanzamiento y el desempeño observado es más importante para los padres, que son el público destinatario de las alertas.

Los investigadores trataron el lanzamiento de agosto como un experimento natural, ejecutando más de 4,000 mensajes en ChatGPT antes y después de que el modo adolescente entrara en funcionamiento, según la evaluación de riesgos. Tras el despliegue, los evaluadores señalaron momentos en los que un adolescente debía haber sido derivado a una línea de crisis o a ayuda profesional; ChatGPT omitió ese paso más de una cuarta parte de las veces. Common Sense exige a los chatbots una tasa de aprobación del 95% en cinco daños graves que denomina Red Lines, y ChatGPT quedó por debajo de ese umbral en tres de ellos.

OpenAI actualizó la especificación de su modelo para menores de 18 años para evitar que el chatbot actuara como un compañero, pero los adolescentes que le hablab como si fuera una persona seguían recibiendo respuestas de estilo amistoso. Un botón "Show me the answer" permite a un adolescente eludir por completo la tutoría del modo Study, mientras que borrar el prefijo "@study" de un chat le permite escapar del Study Hours establecido por los padres. Las cuentas de prueba registradas como adultos nunca cambiaron al modo adolescente durante varios días, incluso cuando un evaluador declaró tener 13 años y el bot lo reconoció.

OpenAI cuestiona los resultados mientras reporta que los adolescentes promedian menos de 15 minutos diarios

OpenAI dijo que las pruebas no "reflejan con precisión" cómo funcionan sus funciones de seguridad para adolescentes, y explicó que la vinculación de cuentas puede tardar horas antes de que las alertas se activen, para que las cuentas permanezcan seguras y el sistema pueda soportar la carga. Common Sense respondió que ninguna de sus cuentas —incluidas las vinculadas el tiempo suficiente— generó una alerta oportuna. El intercambio deja a las familias con respuestas opuestas sobre si la función de alertas funciona, al tiempo que convierte la explicación de OpenAI sobre el retraso en la vinculación en una afirmación específica y verificable a vigilar.\nOpenAI publicó su primer informe sobre el uso de ChatGPT por adolescentes el mismo día, disponible en su blog oficial. La compañía dijo que los adolescentes promedian menos de 15 minutos de uso diario y que menos del 2% permanecen conectados más de tres horas seguidas. En casi la mitad de los chats con adolescentes que contenían una advertencia de descanso, el adolescente se detuvo o salió en un plazo de cinco minutos, según OpenAI. En una sola semana, más de 180,000 adolescentes usaron Study Mode y alrededor de 1.2 millones usaron Learning Visualizations. OpenAI también reportó que los adolescentes que usaron el nuevo modo enviaron un promedio de unos 2.7 millones de mensajes de aprendizaje adicionales en comparación con los que aún esperaban acceso. Las cifras, publicadas el mismo día que la evaluación de riesgos, ofrecen un contrapunto reportado por la compañía sobre cómo los adolescentes usan el producto en la práctica.

En Estados Unidos, los estudiantes de 10.º a 12.º grado podrán usar College Planner para crear un plan integral que cubra todos los pasos necesarios para sus solicitudes, las fechas clave de presentación y las opciones de ayuda financiera disponibles. OpenAI también apoyará durante los próximos tres años el Digital Wellness Lab del Boston Children's Hospital, con unos 22 estudiantes que brindarán comentarios sobre las configuraciones de seguridad predeterminadas, los controles parentales y las notificaciones —un canal de tres años que podría moldear cómo se perfeccionan esas protecciones y alertas.

Contexto más amplio de seguridad infantil

OpenAI y Common Sense Media colaboraron previamente en enero en una medida de votación en California para hacer la IA más segura para los niños, con OpenAI comprometiendo al menos 10 millones de dólares al esfuerzo conjunto, según informó Cryptopolitan. En junio, el fiscal general de Florida, James Uthmeier, presentó la primera demanda estatal contra OpenAI y su CEO, Sam Altman. Cryptopolitan informó que su demanda de 83 páginas alega que ChatGPT contribuyó al suicidio de Adam Raine, de 16 años. La ruptura pública entre dos colaboradores recientes —que ocurre mientras esa demanda sigue pendiente— subraya lo que ahora está en juego al verificar qué tan bien funcionan en la práctica las salvaguardas de IA para adolescentes.