Les récentes fusillades dans des écoles philippines ont naturellement suscité l’inquiétude des parents, des éducateurs et des responsables gouvernementaux. En août, un élève de 9e année de l’Ateneo de Zamboanga University a abattu un autre élève avant de se suicider. L’incident est survenu seulement quelques semaines après une autre fusillade mortelle dans une école de Tacloban. Ces tragédies sont complexes, et il faut éviter d’assimiler les problèmes de santé mentale à la violence. La plupart des personnes confrontées à des difficultés de santé mentale ne sont pas violentes. Mais ces événements devraient nous amener à nous demander si nous faisons suffisamment pour repérer les jeunes en grande détresse avant qu’ils n’atteignent une crise.

La réaction immédiate a, à juste titre, consisté à renforcer la sécurité physique. Les écoles ont accru les inspections des sacs, tandis que des propositions ont émergé concernant des détecteurs de métaux et même des sacs scolaires transparents. On comprend pourquoi. Lorsque des parents envoient leurs enfants à l’école, ils s’attendent à les revoir rentrer sains et saufs. Mais imaginez des centaines ou des milliers d’élèves arrivant à peu près au même moment chaque matin et faisant inspecter chaque sac pour y déceler une arme à feu, un couteau ou tout autre objet interdit. Au-delà des files d’attente et des besoins importants en personnel, nous cherchons à détecter le danger au tout dernier moment — lorsque l’arme a déjà atteint le portail de l’école. Nous recherchons l’objet métallique au lieu de nous demander ce qui est arrivé à l’enfant qui a décidé de l’apporter.

La sécurité physique restera toujours nécessaire, mais elle ne peut pas constituer notre seule ligne de défense. Peut-être devrions-nous accorder autant d’attention à l’identification de la détresse qu’à celle des armes. La question devient alors de savoir si la technologie, en particulier l’intelligence artificielle, peut nous aider à reconnaître plus tôt les signaux d’alerte.

Chaque année, des millions de salariés philippins passent des examens médicaux annuels. Nous mesurons la tension artérielle, le cholestérol et la glycémie. Nous réalisons des radiographies et vérifions la vue, parce que nous acceptons un principe fondamental de la médecine : le dépistage précoce permet une intervention précoce. Nous n’attendons pas qu’une personne fasse une crise cardiaque pour découvrir une hypertension. Pourtant, notre approche de la santé mentale demeure largement réactive. Nous découvrons souvent qu’une personne souffre seulement lorsque ses résultats scolaires s’effondrent, que l’absentéisme augmente, que le travail se dégrade ou que l’intéressé demande enfin de l’aide. Parfois, le premier signe évident apparaît lorsque la crise s’est déjà produite.

Je pense qu’il est temps que les écoles et les lieux de travail philippins explorent un dépistage périodique de la santé mentale assisté par l’IA. Les élèves et les employés pourraient remplir périodiquement et volontairement de courts questionnaires confidentiels de santé mentale à l’aide d’outils de dépistage scientifiquement validés. Ceux-ci pourraient évaluer des indicateurs associés à la dépression, à l’anxiété, au stress, à l’épuisement professionnel, à la solitude, au harcèlement, au désespoir ou au risque suicidaire. Le principe ne serait pas radicalement différent de la mesure régulière d’indicateurs de santé physique. L’objectif n’est pas de diagnostiquer une maladie mentale, mais d’identifier des signaux d’alerte qui méritent une attention professionnelle.

Il existe déjà des outils établis qui montrent à quel point un dépistage initial peut être simple. Le US National Institute of Mental Health a développé le dispositif Ask Suicide-Screening Questions, ou ASQ, composé de quatre questions brèves pouvant être administrées en environ 20 secondes. Dans son étude, le fait de répondre oui à une ou plusieurs questions a permis d’identifier 97% des jeunes de 10 à 21 ans présentant un risque de suicide. Un résultat positif ne constitue pas un diagnostic psychiatrique. Il signale la nécessité d’une évaluation plus approfondie par une personne qualifiée.

L’intelligence artificielle peut potentiellement rendre cette approche plus puissante en examinant non seulement les réponses du jour, mais aussi leur évolution dans le temps. Imaginez un élève qui remplit chaque mois un pointage confidentiel de trois minutes. Pendant plusieurs mois, tout semble normal, puis les réponses changent progressivement. Le sommeil se dégrade. L’isolement augmente. La pression scolaire s’intensifie. L’espoir diminue. Finalement, les réponses indiquent des pensées d’automutilation. Aucune réponse isolée ne dit nécessairement toute l’histoire, mais la trajectoire peut nous indiquer qu’une personne a besoin d’attention.

Un système correctement conçu pourrait donc fonctionner comme un radar d’alerte précoce. Des résultats normaux pourraient simplement conduire vers des ressources de prévention et de bien-être. Une détérioration importante pourrait proposer discrètement à l’élève ou au salarié un rendez-vous avec un conseiller d’orientation, un psychologue, un programme d’aide aux employés ou tout autre professionnel approprié. Des réponses suggérant un danger immédiat déclencheraient un protocole d’intervention humaine établi.

C’est ici qu’il faut être très clair sur le rôle de l’IA. Elle ne devrait pas diagnostiquer une maladie mentale, prédire qui commettra des actes violents ni déterminer qui est suicidaire. L’IA devrait détecter des schémas et aider à hiérarchiser l’attention. L’évaluation, le diagnostic, le conseil et l’intervention doivent rester entre les mains de personnes humaines.

Cette distinction est particulièrement importante sur le lieu de travail, où les préoccupations de santé mentale prennent aussi une importance croissante. Les employés font face à des pressions financières, à des charges de travail exigeantes, à des problèmes familiaux, à de longs trajets, à l’épuisement, à la solitude et à l’incertitude concernant leur carrière. Ironiquement, l’IA elle-même ajoute une source d’anxiété supplémentaire, alors que beaucoup se demandent si leurs emplois et leurs compétences resteront pertinents. Les autorités philippines du travail mettent l’accent sur la sécurité psychosociale et sur les programmes de santé mentale au travail, notamment la confidentialité, l’orientation, le traitement et le soutien aux employés.

Un système assisté par l’IA pourrait aider les entreprises à mieux comprendre ces problèmes plus tôt, mais il ne doit jamais devenir un système de surveillance des employés. Les RH ne devraient pas recevoir une liste identifiant des salariés comme déprimés, anxieux ou potentiellement suicidaires. Les entreprises ne devraient pas non plus analyser secrètement les messages privés, les e-mails, l’activité sur les réseaux sociaux ou les appareils personnels des employés au nom du bien-être. Un employé qui admet ressentir de l’anxiété ne doit jamais se demander si cette réponse affectera sa promotion, son évaluation de performance ou sa sécurité d’emploi.

Le meilleur modèle sépare la prise en charge individuelle de l’intelligence institutionnelle. Les alertes nominatives ne devraient être accessibles qu’à des professionnels de santé mentale dûment autorisés, agissant sous une stricte confidentialité et selon des protocoles d’escalade clairement définis. La direction pourrait plutôt recevoir des informations anonymisées et agrégées. Un PDG pourrait, par exemple, découvrir que les indicateurs d’épuisement ont fortement augmenté dans une unité commerciale donnée au cours des six derniers mois. Cela peut révéler non pas un problème lié aux employés, mais un problème de management lié à des charges de travail excessives, des objectifs irréalistes, un mauvais leadership ou une culture malsaine.

Les écoles pourraient également observer des tendances plus larges sans identifier inutilement des élèves en particulier. Peut-être que l’anxiété augmente chez les élèves de terminale. Peut-être que la solitude progresse chez les nouveaux inscrits. Peut-être que des indicateurs associés au harcèlement ont soudainement augmenté dans un niveau scolaire donné. Les administrateurs pourraient réagir par du conseil, de l’éducation, l’implication des parents et d’autres interventions préventives avant que le problème ne s’aggrave.

Les risques sont importants. Les systèmes d’IA peuvent produire des faux positifs et des faux négatifs. Les Philippins peuvent exprimer leur détresse différemment des populations sur lesquelles ont été élaborés les instruments psychologiques internationaux. Les données de santé mentale sont également extrêmement sensibles. Tout système exigerait donc un consentement éclairé, une minimisation des données, une cybersécurité, une durée de conservation limitée, des règles transparentes régissant l’accès, une supervision clinique et une revue humaine. Pour les enfants et les adolescents, les protections doivent être encore plus strictes. L’Organisation mondiale de la Santé elle-même a averti que l’IA générative est déjà utilisée pour le soutien en santé mentale, alors que de nombreux systèmes n’ont pas été conçus ni validés cliniquement à cette fin.

La solution n’est donc pas un thérapeute IA. Ce que j’envisage est bien plus simple : un système philippin d’alerte précoce en santé mentale combinant un dépistage périodique validé, une détection de schémas assistée par l’IA, des protections strictes de la vie privée et un accès garanti à une intervention humaine qualifiée. Le gouvernement, les écoles, les entreprises, les universités, les sociétés technologiques et les organisations de santé mentale pourraient collaborer à des projets pilotes contrôlés afin de déterminer si un tel modèle fonctionne dans le contexte philippin.

Les inspections des sacs et les détecteurs de métaux peuvent empêcher une arme d’entrer dans une école un matin donné. Il faut bien sûr améliorer la sécurité physique là où c’est nécessaire. Mais la sécurité à l’entrée ne concerne que les dernières minutes d’une histoire potentiellement bien plus longue. L’intervention en santé mentale pose la question de savoir si nous aurions pu atteindre la personne des semaines ou des mois plus tôt.

Nous comprenons déjà cette philosophie lorsqu’il s’agit de santé physique. Nous mesurons la tension artérielle parce que nous préférons découvrir les signes d’alerte avant la crise cardiaque.

Peut-être est-il temps d’appliquer la même logique à l’esprit.

Le Dr Donald Patrick Lim est le président fondateur du Global AI Council Philippines et du Blockchain Council of the Philippines, ainsi que le président fondateur du Cybersecurity Council, dont la mission est de promouvoir l’usage approprié des technologies émergentes pour faire progresser les entreprises. Il est actuellement président et COO de DITO CME Holdings Corp.