Los recientes tiroteos en escuelas filipinas han generado, comprensiblemente, alarma entre padres, educadores y funcionarios del gobierno. En agosto, un estudiante de 9.º grado de la Ateneo de Zamboanga University disparó y mató a otro estudiante antes de quitarse la vida. El incidente ocurrió apenas semanas después de otro tiroteo fatal en una escuela de Tacloban. Estas tragedias son complejas, y debemos tener cuidado de no equiparar los problemas de salud mental con la violencia. La mayoría de las personas con dificultades de salud mental no son violentas. Pero estos hechos deberían obligarnos a preguntarnos si estamos haciendo lo suficiente para identificar a los jóvenes que atraviesan un sufrimiento serio antes de que lleguen a una crisis.

La reacción inmediata, como era de esperarse, ha sido reforzar la seguridad física. Las escuelas han aumentado las inspecciones de mochilas, mientras que han surgido propuestas de detectores de metales e incluso mochilas escolares transparentes. Entiendo por qué. Cuando los padres envían a sus hijos a la escuela, esperan que regresen a casa sanos y salvos. Pero imaginemos a cientos o miles de estudiantes llegando casi al mismo tiempo cada mañana y sometiendo cada mochila a inspección en busca de un arma de fuego, un cuchillo u otro objeto prohibido. Además de crear largas filas y requerir una cantidad significativa de personal, estamos intentando detectar el peligro en el último momento posible: cuando el arma ya ha llegado a la puerta de la escuela. Buscamos el objeto de metal en lugar de preguntar qué le ocurrió al niño que decidió llevarlo.

La seguridad física siempre será necesaria, pero no puede ser nuestra única línea de defensa. Tal vez deberíamos dedicar tanta atención a identificar el sufrimiento como a identificar armas. Entonces la pregunta es si la tecnología, en particular la inteligencia artificial, puede ayudarnos a reconocer antes las señales de alerta.

Cada año, millones de empleados filipinos se someten a exámenes físicos anuales. Medimos la presión arterial, el colesterol y la glucosa. Tomamos radiografías y revisamos la vista porque aceptamos un principio fundamental de la medicina: la detección temprana permite una intervención temprana. No esperamos a que alguien sufra un infarto para descubrir hipertensión. Sin embargo, nuestro enfoque de la salud mental sigue siendo en gran medida reactivo. A menudo descubrimos que alguien está pasando por dificultades solo cuando el rendimiento académico se desploma, aumenta el ausentismo, el trabajo se deteriora o la persona finalmente pide ayuda. A veces, la primera señal evidente aparece cuando la crisis ya ocurrió.

Creo que ha llegado el momento de que las escuelas y los lugares de trabajo en Filipinas exploren un tamizaje periódico de salud mental respaldado por IA. Los estudiantes y empleados podrían completar periódicamente, de forma voluntaria, breves evaluaciones confidenciales de salud mental utilizando instrumentos de tamizaje validados científicamente. Estas podrían evaluar indicadores asociados con depresión, ansiedad, estrés, agotamiento, soledad, acoso, desesperanza o riesgo de suicidio. En principio, esto no sería radicalmente distinto de medir de forma rutinaria indicadores de salud física. El objetivo no es diagnosticar una enfermedad mental, sino identificar señales de alerta que merezcan atención profesional.

Ya existen instrumentos establecidos que demuestran lo simple que puede ser el tamizaje inicial. El US National Institute of Mental Health desarrolló el paquete Ask Suicide-Screening Questions o ASQ, compuesto por cuatro preguntas breves que pueden administrarse en unos 20 segundos. En su estudio, responder sí a una o más preguntas identificó al 97% de los jóvenes de entre 10 y 21 años que estaban en riesgo de suicidio. Un resultado positivo no constituye un diagnóstico psiquiátrico. Señala la necesidad de una evaluación posterior por parte de una persona calificada.

La inteligencia artificial puede hacer que este enfoque sea potencialmente más eficaz al observar no solo las respuestas de hoy, sino también los cambios a lo largo del tiempo. Imaginemos a un estudiante que completa cada mes un breve registro confidencial de tres minutos. Durante varios meses todo parece normal, pero gradualmente las respuestas cambian. El sueño empeora. Aumenta el aislamiento. Crece la presión académica. Disminuye la esperanza. Eventualmente, las respuestas indican pensamientos de autolesión. Ninguna respuesta por sí sola cuenta necesariamente toda la historia, pero la trayectoria puede decirnos que alguien necesita atención.

Un sistema bien diseñado podría funcionar entonces como un radar de alerta temprana. Los resultados normales podrían conducir simplemente a recursos preventivos de bienestar. Un deterioro significativo podría ofrecer de manera privada al estudiante o empleado una cita con un orientador, psicólogo, programa de asistencia al empleado u otro profesional adecuado. Las respuestas que sugieran una preocupación inmediata de seguridad activarían un protocolo humano de intervención ya establecido.

Aquí debemos ser muy claros sobre el papel de la IA. No debe diagnosticar enfermedades mentales, predecir quién cometerá violencia ni decidir quién es suicida. La IA debe detectar patrones y ayudar a priorizar la atención. La evaluación, el diagnóstico, el asesoramiento y la intervención deben permanecer en manos humanas.

Esta distinción es particularmente importante en el lugar de trabajo, donde las preocupaciones de salud mental también se están volviendo cada vez más significativas. Los empleados enfrentan presiones financieras, cargas de trabajo exigentes, problemas familiares, largos desplazamientos, agotamiento, soledad e incertidumbre sobre sus carreras. Irónicamente, la propia IA está añadiendo otra fuente de ansiedad, ya que las personas se preguntan si sus empleos y habilidades seguirán siendo relevantes. Las autoridades laborales filipinas han estado haciendo hincapié en la seguridad psicosocial y en los programas de salud mental en el trabajo, incluida la confidencialidad, la derivación, el tratamiento y el apoyo al empleado.

Un sistema asistido por IA podría ayudar a las empresas a comprender estos problemas antes, pero nunca debe convertirse en un sistema de vigilancia de empleados. Recursos Humanos no debería recibir una lista que identifique a empleados como deprimidos, ansiosos o potencialmente suicidas. Tampoco deberían las empresas analizar en secreto los mensajes privados, correos electrónicos, actividad en redes sociales o dispositivos personales de los empleados en nombre del bienestar. Un empleado que admita sentirse ansioso nunca debe preguntarse si esa respuesta afectará su ascenso, su evaluación de desempeño o su seguridad laboral.

El mejor modelo separa el cuidado individual de la inteligencia institucional. Las alertas que identifiquen a una persona deberían estar disponibles solo para profesionales de salud mental debidamente autorizados, que operen bajo estricta confidencialidad y protocolos de escalamiento claramente definidos. La dirección podría recibir, en cambio, información anonimizada y agregada. Un director ejecutivo podría descubrir, por ejemplo, que los indicadores de agotamiento han aumentado significativamente en una unidad de negocio durante los últimos seis meses. Eso podría revelar no un problema del empleado, sino un problema de gestión relacionado con cargas de trabajo excesivas, metas poco realistas, mala dirección o una cultura poco saludable.

Las escuelas también podrían ver tendencias más amplias sin identificar innecesariamente a estudiantes individuales. Quizás esté aumentando la ansiedad entre los alumnos que se gradúan. Quizás esté creciendo la soledad entre los estudiantes de primer año. Quizás los indicadores asociados con el acoso hayan aumentado repentinamente en un determinado nivel escolar. Los administradores podrían responder con orientación, educación, participación de los padres y otras intervenciones preventivas antes de que el problema se vuelva más serio.

Existen riesgos importantes. Los sistemas de IA pueden generar falsos positivos y falsos negativos. Los filipinos pueden expresar el malestar de manera distinta a las poblaciones en las que se desarrollaron instrumentos psicológicos internacionales. Los datos de salud mental también son extremadamente sensibles. Por lo tanto, cualquier sistema requeriría consentimiento informado, minimización de datos, ciberseguridad, retención limitada, reglas transparentes sobre el acceso, supervisión clínica y revisión humana. En el caso de niños y adolescentes, las salvaguardas deben ser aún más estrictas. La propia Organización Mundial de la Salud ha advertido que la IA generativa ya se está utilizando para apoyo en salud mental, pese a que muchos sistemas no han sido diseñados ni validados clínicamente para ese fin.

La solución, por tanto, no es un terapeuta de IA. Lo que imagino es mucho más simple: un sistema filipino de alerta temprana en salud mental que combine tamizaje validado periódico, detección de patrones asistida por IA, estrictas protecciones de privacidad y acceso garantizado a intervención humana calificada. El gobierno, las escuelas, las corporaciones, las universidades, las empresas tecnológicas y las organizaciones de salud mental podrían colaborar en pilotos controlados para determinar si un modelo así funciona en el contexto filipino.

Las inspecciones de mochilas y los detectores de metales pueden impedir que un arma entre en una escuela en una mañana determinada. Sin duda, debemos mejorar la seguridad física donde sea necesario. Pero la seguridad en la entrada se ocupa de los últimos minutos de una historia potencialmente mucho más larga. La intervención en salud mental se pregunta si habríamos podido llegar a esa persona semanas o meses antes.

Ya entendemos esta filosofía cuando se trata de salud física. Medimos la presión arterial porque preferimos descubrir las señales de alerta antes del infarto.

Tal vez ha llegado el momento de aplicar el mismo pensamiento a la mente.

El Dr. Donald Patrick Lim es el presidente fundador del Global AI Council Philippines y del Blockchain Council of the Philippines, y presidente fundador del Cybersecurity Council, cuya misión es abogar por el uso correcto de las tecnologías emergentes para impulsar a las organizaciones empresariales. Actualmente es presidente y director de operaciones de DITO CME Holdings Corp.