De recente schietincidenten op Filipijnse scholen hebben begrijpelijkerwijs alarm veroorzaakt bij ouders, leerkrachten en overheidsfunctionarissen. In augustus schoot een leerling uit Grade 9 aan de Ateneo de Zamboanga University een andere student dood, waarna hij zichzelf van het leven beroofde. Het incident kwam slechts enkele weken na een andere dodelijke schietpartij op een school in Tacloban. Deze tragedies zijn complex, en we moeten voorzichtig zijn om mentale gezondheidsproblemen niet gelijk te stellen aan geweld. De meeste mensen met mentale gezondheidsproblemen zijn niet gewelddadig. Maar deze incidenten moeten ons ertoe aanzetten te vragen of we genoeg doen om jongeren met ernstige nood vroegtijdig te identificeren, vóór ze in een crisis belanden.

De onmiddellijke reactie is begrijpelijkerwijs geweest om de fysieke beveiliging aan te scherpen. Scholen hebben bagagecontroles opgevoerd, terwijl er voorstellen zijn gedaan voor metaaldetectors en zelfs doorzichtige schooltassen. Ik begrijp waarom. Wanneer ouders hun kinderen naar school sturen, verwachten ze dat die veilig thuiskomen. Maar stel je voor dat honderden of duizenden leerlingen elke ochtend ongeveer tegelijk aankomen en elke tas wordt gecontroleerd op een pistool, mes of ander verboden voorwerp. Naast lange rijen en een grote personeelsbehoefte proberen we het gevaar te detecteren op het allerlaatste moment — wanneer het wapen al bij de schoolpoort is aangekomen. We zoeken naar het metalen object in plaats van te vragen wat er met het kind is gebeurd dat het besloot mee te nemen.

Fysieke beveiliging zal altijd noodzakelijk blijven, maar kan niet onze enige verdedigingslinie zijn. Misschien moeten we evenveel aandacht besteden aan het signaleren van nood als aan het detecteren van wapens. De vraag is dan of technologie, vooral artificiële intelligentie, ons kan helpen waarschuwingssignalen eerder te herkennen.

Elk jaar ondergaan miljoenen Filipijnse werknemers een jaarlijks medisch onderzoek. We meten bloeddruk, cholesterol en bloedsuiker. We maken röntgenfoto’s en controleren het zicht, omdat we een fundamenteel principe van de geneeskunde aanvaarden: vroege detectie maakt vroege interventie mogelijk. We wachten niet tot iemand een hartaanval krijgt om hypertensie vast te stellen. Toch blijft onze aanpak van mentale gezondheid grotendeels reactief. We merken vaak pas dat iemand het moeilijk heeft wanneer de academische prestaties instorten, het verzuim toeneemt, het werk achteruitgaat of de persoon uiteindelijk om hulp vraagt. Soms komt het eerste duidelijke signaal pas wanneer er al een crisis is geweest.

Ik denk dat het tijd is voor Filipijnse scholen en werkplekken om periodieke mentale gezondheidsscreening met AI te onderzoeken. Leerlingen en werknemers zouden periodiek en vrijwillig korte, vertrouwelijke beoordelingen van hun mentale gezondheid kunnen invullen met behulp van wetenschappelijk gevalideerde screeningsinstrumenten. Die kunnen indicatoren meten die verband houden met depressie, angst, stress, burn-out, eenzaamheid, pesten, hopeloosheid of suïciderisico. Dat zou in principe niet radicaal verschillen van het routinematig meten van fysieke gezondheidsindicatoren. Het doel is niet om een mentale aandoening te diagnosticeren, maar om waarschuwingssignalen te identificeren die professionele aandacht verdienen.

Er bestaan al gevestigde instrumenten die laten zien hoe eenvoudig een eerste screening kan zijn. Het US National Institute of Mental Health ontwikkelde de Ask Suicide-Screening Questions of ASQ-toolkit, bestaande uit vier korte vragen die in ongeveer 20 seconden kunnen worden afgenomen. In het onderzoek identificeerde een ‘ja’-antwoord op één of meer vragen 97% van de jongeren van 10 tot 21 jaar die risico liepen op zelfdoding. Een positief resultaat is geen psychiatrische diagnose. Het geeft aan dat verdere beoordeling door een gekwalificeerde persoon nodig is.

Artificiële intelligentie kan deze aanpak mogelijk krachtiger maken door niet alleen naar de antwoorden van vandaag te kijken, maar ook naar veranderingen in de tijd. Stel je een student voor die elke maand een vertrouwelijke check-in van drie minuten invult. Gedurende enkele maanden lijkt alles normaal, maar geleidelijk veranderen de antwoorden. De slaap verslechtert. De isolatie neemt toe. De academische druk stijgt. De hoop neemt af. Uiteindelijk wijzen de antwoorden op gedachten aan zelfbeschadiging. Geen enkel antwoord vertelt noodzakelijkerwijs het hele verhaal, maar het verloop kan ons vertellen dat iemand aandacht nodig heeft.

Een goed ontworpen systeem zou dus kunnen werken als een vroegwaarschuwingsradar. Normale resultaten zouden simpelweg kunnen leiden tot preventieve welzijnsbronnen. Een aanzienlijke verslechtering zou de leerling of werknemer privé een afspraak kunnen aanbieden met een schoolbegeleider, psycholoog, een employee assistance program of een andere geschikte professional. Reacties die wijzen op een onmiddellijke veiligheidsdreiging zouden een vastgelegd menselijk interventieprotocol activeren.

Hier moeten we heel duidelijk zijn over de rol van AI. AI mag geen mentale aandoening diagnosticeren, niet voorspellen wie geweld zal plegen en ook niet beslissen wie suïcidaal is. AI moet patronen detecteren en helpen de aandacht te prioriteren. Beoordeling, diagnose, begeleiding en interventie moeten in menselijke handen blijven.

Dit onderscheid is vooral belangrijk op de werkvloer, waar zorgen over mentale gezondheid eveneens steeds groter worden. Werknemers hebben te maken met financiële druk, hoge werkdruk, gezinsproblemen, lange woon-werkafstanden, burn-out, eenzaamheid en onzekerheid over hun loopbaan. Ironisch genoeg voegt AI zelf nog een bron van angst toe, omdat mensen zich afvragen of hun baan en vaardigheden nog relevant zullen blijven. Filipijnse arbeidsautoriteiten leggen nadruk op psychosociale veiligheid en programma’s voor mentale gezondheid op de werkplek, waaronder vertrouwelijkheid, doorverwijzing, behandeling en ondersteuning van werknemers.

Een AI-ondersteund systeem kan bedrijven helpen deze problemen eerder te begrijpen, maar het mag nooit een systeem voor werknemersbewaking worden. HR mag geen lijst ontvangen waarin werknemers als depressief, angstig of mogelijk suïcidaal worden aangeduid. Ook mogen bedrijven niet stiekem privéberichten, e-mails, activiteiten op sociale media of persoonlijke apparaten van werknemers analyseren in naam van welzijn. Een werknemer die toegeeft zich angstig te voelen, mag nooit twijfelen of dat antwoord invloed heeft op promotie, beoordeling of baanzekerheid.

Het betere model scheidt individuele zorg van institutionele informatie. Persoonlijk identificeerbare waarschuwingen mogen alleen beschikbaar zijn voor daartoe bevoegde professionals in de geestelijke gezondheidszorg, onder strikte vertrouwelijkheid en duidelijk gedefinieerde escalatieprotocollen. Het management zou daarentegen geanonimiseerde, geaggregeerde informatie kunnen ontvangen. Een CEO kan bijvoorbeeld ontdekken dat indicatoren voor burn-out in de afgelopen zes maanden in één bedrijfsonderdeel sterk zijn gestegen. Dat kan niet wijzen op een probleem van werknemers, maar op een managementprobleem met te hoge werkdruk, onrealistische doelen, zwak leiderschap of een ongezonde cultuur.

Scholen zouden op vergelijkbare wijze bredere trends kunnen zien zonder individuele leerlingen onnodig te identificeren. Misschien neemt angst toe onder afstuderende studenten. Misschien groeit eenzaamheid onder eerstejaars. Misschien zijn indicatoren die verband houden met pesten plotseling gestegen in een bepaald leerjaar. Administraties kunnen dan reageren met begeleiding, voorlichting, ouderbetrokkenheid en andere preventieve interventies voordat het probleem ernstiger wordt.

Er zijn aanzienlijke risico’s. AI-systemen kunnen vals-positieven en vals-negatieven genereren. Filipijnen kunnen nood anders uitdrukken dan de populaties waarop internationale psychologische instrumenten zijn ontwikkeld. Gegevens over mentale gezondheid zijn bovendien uiterst gevoelig. Elk systeem zou daarom geïnformeerde toestemming, dataminimalisatie, cyberbeveiliging, beperkte bewaartermijnen, transparante toegangsregels, klinisch toezicht en menselijke beoordeling vereisen. Voor kinderen en adolescenten moeten de waarborgen nog sterker zijn. De Wereldgezondheidsorganisatie heeft zelf gewaarschuwd dat generatieve AI al wordt gebruikt voor mentale ondersteuning, ondanks dat veel systemen daar niet voor zijn ontworpen of klinisch gevalideerd.

De oplossing is daarom geen AI-therapeut. Wat ik voor ogen heb is veel eenvoudiger: een Filipijns vroegwaarschuwingssysteem voor mentale gezondheid dat periodieke gevalideerde screening, AI-ondersteunde patroonherkenning, strikte privacybescherming en gegarandeerde toegang tot gekwalificeerde menselijke interventie combineert. Overheid, scholen, bedrijven, universiteiten, technologiebedrijven en organisaties voor mentale gezondheid zouden kunnen samenwerken aan gecontroleerde pilots om te bepalen of zo’n model werkt in de Filipijnse context.

Bagagecontroles en metaaldetectors kunnen voorkomen dat op een bepaalde ochtend een wapen een school binnenkomt. We moeten de fysieke beveiliging waar nodig zeker verbeteren. Maar beveiliging bij de poort gaat over de laatste minuten van een mogelijk veel langer verhaal. Mentale gezondheidsinterventie vraagt of we de persoon weken of maanden eerder hadden kunnen bereiken.

We begrijpen deze filosofie al wanneer het om fysieke gezondheid gaat. We meten bloeddruk omdat we liever de waarschuwingssignalen ontdekken vóór de hartaanval.

Misschien is het tijd dat we hetzelfde denken toepassen op de geest.

Dr. Donald Patrick Lim is de oprichtend president van de Global AI Council Philippines en de Blockchain Council of the Philippines, en de oprichtend voorzitter van de Cybersecurity Council, waarvan de missie is het juiste gebruik van opkomende technologieën te bevorderen om bedrijfsorganisaties vooruit te helpen. Hij is momenteel president en COO van DITO CME Holdings Corp.