I recenti episodi di sparatorie nelle scuole filippine hanno comprensibilmente allarmato genitori, educatori e funzionari governativi. In agosto, uno studente di Grade 9 dell’Ateneo de Zamboanga University ha sparato e ucciso un altro studente prima di togliersi la vita. L’episodio è arrivato solo poche settimane dopo un’altra sparatoria mortale in una scuola di Tacloban. Queste tragedie sono complesse e dobbiamo fare attenzione a non equiparare i problemi di salute mentale alla violenza. La maggior parte delle persone con difficoltà di salute mentale non è violenta. Ma questi episodi dovrebbero spingerci a chiederci se stiamo facendo abbastanza per identificare i giovani che vivono un grave disagio prima che arrivino a una crisi.

La reazione immediata è stata comprensibilmente quella di rafforzare la sicurezza fisica. Le scuole hanno intensificato le ispezioni delle borse, mentre sono emerse proposte per metal detector e persino borse scolastiche trasparenti. Ne capisco il motivo. Quando i genitori mandano i figli a scuola, si aspettano che tornino a casa sani e salvi. Ma immaginate centinaia o migliaia di studenti che arrivano più o meno alla stessa ora ogni mattina e ogni borsa viene controllata alla ricerca di una pistola, di un coltello o di un altro oggetto vietato. Oltre a creare lunghe code e a richiedere una notevole manodopera, stiamo cercando di individuare il pericolo all’ultimo possibile momento — quando l’arma è già arrivata al cancello della scuola. Stiamo cercando l’oggetto metallico invece di chiederci cosa sia accaduto al ragazzo o alla ragazza che ha deciso di portarlo.

La sicurezza fisica sarà sempre necessaria, ma non può essere la nostra unica linea di difesa. Forse dovremmo dedicare tanta attenzione all’individuazione del disagio quanta ne dedichiamo all’individuazione delle armi. La domanda diventa allora se la tecnologia, in particolare l’intelligenza artificiale, possa aiutarci a riconoscere prima i segnali di allarme.

Ogni anno, milioni di lavoratori filippini effettuano esami fisici annuali. Misuriamo pressione sanguigna, colesterolo e glicemia. Facciamo radiografie e controlliamo la vista perché accettiamo un principio fondamentale della medicina: la diagnosi precoce consente un intervento precoce. Non aspettiamo che qualcuno abbia un infarto per scoprire l’ipertensione. Eppure il nostro approccio alla salute mentale resta in gran parte reattivo. Spesso scopriamo che una persona è in difficoltà solo quando il rendimento scolastico crolla, l’assenteismo aumenta, il lavoro peggiora o l’individuo finalmente chiede aiuto. A volte il primo segnale evidente arriva quando una crisi si è già verificata.

Ritengo sia il momento per scuole e luoghi di lavoro nelle Filippine di esplorare uno screening periodico della salute mentale supportato dall’IA. Studenti e dipendenti potrebbero compilare periodicamente e su base volontaria brevi valutazioni riservate della salute mentale utilizzando strumenti di screening scientificamente validati. Questi potrebbero valutare indicatori associati a depressione, ansia, stress, burnout, solitudine, bullismo, disperazione o rischio di suicidio. In linea di principio, non sarebbe qualcosa di radicalmente diverso dal misurare regolarmente indicatori di salute fisica. L’obiettivo non è diagnosticare una malattia mentale, ma individuare segnali di allarme che meritano attenzione professionale.

Esistono già strumenti consolidati che dimostrano quanto possa essere semplice lo screening iniziale. Il US National Institute of Mental Health ha sviluppato l’Ask Suicide-Screening Questions, o ASQ toolkit, composto da quattro domande brevi che possono essere somministrate in circa 20 secondi. Nel suo studio, rispondere sì a una o più domande ha identificato il 97% dei giovani tra i 10 e i 21 anni a rischio di suicidio. Un risultato positivo non costituisce una diagnosi psichiatrica. Indica la necessità di una valutazione ulteriore da parte di una persona qualificata.

L’intelligenza artificiale può potenzialmente rendere questo approccio più efficace osservando non solo le risposte di oggi, ma anche i cambiamenti nel tempo. Immaginate uno studente che compila ogni mese un check-in riservato di tre minuti. Per diversi mesi tutto appare normale, ma gradualmente le risposte cambiano. Il sonno peggiora. L’isolamento aumenta. La pressione accademica cresce. La speranza diminuisce. Alla fine, le risposte indicano pensieri di autolesionismo. Nessuna singola risposta racconta necessariamente l’intera storia, ma la traiettoria può dirci che qualcuno ha bisogno di attenzione.

Un sistema progettato correttamente potrebbe quindi funzionare come un radar di allerta precoce. Risultati normali potrebbero semplicemente portare a risorse preventive per il benessere. Un peggioramento significativo potrebbe offrire in modo riservato allo studente o al dipendente un appuntamento con un orientatore, uno psicologo, un programma di assistenza ai dipendenti o un altro professionista appropriato. Le risposte che segnalano un problema di sicurezza immediato attiverebbero un protocollo di intervento umano già definito.

Qui dobbiamo essere molto chiari sul ruolo dell’IA. Non deve diagnosticare malattie mentali, prevedere chi commetterà violenza o decidere chi è suicidario. L’IA dovrebbe rilevare schemi e aiutare a dare priorità all’attenzione. Valutazione, diagnosi, consulenza e intervento devono rimanere nelle mani delle persone.

Questa distinzione è particolarmente importante sul posto di lavoro, dove le questioni di salute mentale stanno diventando sempre più rilevanti. I dipendenti affrontano pressioni finanziarie, carichi di lavoro impegnativi, problemi familiari, lunghi spostamenti, burnout, solitudine e incertezza sul proprio futuro professionale. Ironia della sorte, l’IA stessa sta aggiungendo un’altra fonte di ansia, mentre le persone si chiedono se i loro lavori e le loro competenze resteranno rilevanti. Le autorità del lavoro filippine hanno posto l’accento sulla sicurezza psicosociale e sui programmi di salute mentale sul lavoro, inclusi riservatezza, invio a specialisti, trattamento e supporto ai dipendenti.

Un sistema assistito dall’IA potrebbe aiutare le aziende a comprendere questi problemi prima, ma non deve mai diventare un sistema di sorveglianza dei dipendenti. L’HR non dovrebbe ricevere un elenco che identifichi i dipendenti come depressi, ansiosi o potenzialmente suicidi. Allo stesso modo, le aziende non dovrebbero analizzare segretamente i messaggi privati, le e-mail, l’attività sui social media o i dispositivi personali dei dipendenti in nome del benessere. Un dipendente che ammette di sentirsi ansioso non deve mai chiedersi se quella risposta influenzerà la promozione, la valutazione della performance o la sicurezza del posto di lavoro.

Il modello migliore separa la cura individuale dall’intelligence istituzionale. Gli avvisi personalmente identificabili dovrebbero essere disponibili solo a professionisti della salute mentale adeguatamente autorizzati, che operano in condizioni di stretta riservatezza e con protocolli di escalation chiaramente definiti. La direzione potrebbe invece ricevere informazioni anonime e aggregate. Un CEO potrebbe scoprire, per esempio, che gli indicatori di burnout sono aumentati in modo significativo in una business unit negli ultimi sei mesi. Questo potrebbe rivelare non un problema dei dipendenti, ma un problema gestionale legato a carichi di lavoro eccessivi, obiettivi irrealistici, leadership debole o una cultura non sana.

Le scuole potrebbero allo stesso modo vedere tendenze più ampie senza identificare inutilmente i singoli studenti. Forse l’ansia sta aumentando tra gli studenti dell’ultimo anno. Forse la solitudine è in crescita tra le matricole. Forse gli indicatori associati al bullismo sono aumentati improvvisamente in un determinato livello scolastico. Gli amministratori potrebbero rispondere con consulenza, educazione, coinvolgimento dei genitori e altri interventi preventivi prima che il problema diventi più serio.

I rischi sono significativi. I sistemi di IA possono generare falsi positivi e falsi negativi. I filippini possono esprimere il disagio in modo diverso rispetto alle popolazioni su cui sono stati sviluppati gli strumenti psicologici internazionali. Anche i dati sulla salute mentale sono estremamente sensibili. Qualsiasi sistema richiederebbe quindi consenso informato, minimizzazione dei dati, sicurezza informatica, conservazione limitata, regole trasparenti di accesso, supervisione clinica e revisione umana. Per bambini e adolescenti, le tutele devono essere ancora più forti. La stessa World Health Organization ha avvertito che l’IA generativa viene già utilizzata per il supporto alla salute mentale, nonostante molti sistemi non siano stati progettati o validati clinicamente per questo scopo.

La soluzione, quindi, non è un terapista IA. Ciò che immagino è molto più semplice: un sistema filippino di allerta precoce per la salute mentale che combini screening validati periodici, rilevamento di schemi assistito dall’IA, rigorose protezioni della privacy e accesso garantito a un intervento umano qualificato. Governo, scuole, imprese, università, aziende tecnologiche e organizzazioni per la salute mentale potrebbero collaborare a progetti pilota controllati per verificare se un modello del genere funzioni nel contesto filippino.

Le ispezioni delle borse e i metal detector possono impedire che un’arma entri in una scuola in una certa mattina. Dovremmo certamente migliorare la sicurezza fisica dove necessario. Ma la sicurezza al cancello riguarda gli ultimi minuti di una storia potenzialmente molto più lunga. L’intervento sulla salute mentale chiede se avremmo potuto raggiungere quella persona settimane o mesi prima.

Già comprendiamo questa filosofia quando si parla di salute fisica. Misuriamo la pressione sanguigna perché preferiamo scoprire i segnali di allarme prima dell’infarto.

Forse è arrivato il momento di applicare lo stesso modo di pensare alla mente.

Il dott. Donald Patrick Lim è il presidente fondatore del Global AI Council Philippines e del Blockchain Council of the Philippines, nonché presidente fondatore del Cybersecurity Council, la cui missione è promuovere il corretto uso delle tecnologie emergenti per far progredire le imprese. Attualmente è presidente e COO di DITO CME Holdings Corp.