フィリピンの学校で起きた最近の銃撃事件は、保護者、教育関係者、政府当局に当然ながら大きな衝撃を与えた。8月には、Ateneo de Zamboanga University の9年生の生徒が、別の生徒を射殺したのち自ら命を絶った。これに先立つ数週間前には、Tacloban でも別の致命的な学校銃撃事件が発生していた。こうした悲劇は複雑であり、メンタルヘルスの問題を暴力と同一視することには慎重であるべきだ。メンタルヘルスの困難を抱える人の大半は暴力的ではない。それでも、こうした事件は、深刻な苦痛を抱える若者を危機に至る前に把握できているのか、私たちに問い直すべきだ。

当面の対応として、物理的な警備を強化する動きが出るのは当然だ。学校では持ち物検査が増え、金属探知機や、透明なスクールバッグまで提案されている。その理由は理解できる。保護者は子どもを学校に送り出すとき、安全に帰宅することを期待しているからだ。しかし、毎朝ほぼ同じ時間に何百、何千という生徒が登校し、銃やナイフ、その他の禁止物品がないか全員のバッグを確認する光景を想像してみてほしい。長い列を生み、相当な人手も必要になるうえ、危険を見つけようとしているのは、武器がすでに校門に到達した、最後の瞬間にすぎない。私たちは、金属製の物を探しているのであって、それを持ち込むことを選んだ子どもに何が起きたのかを問うてはいない。

物理的な警備は常に必要だが、それだけが唯一の防衛線であってはならない。武器を見つけるのと同じくらい、苦痛の兆候を見つけることに注意を払うべきではないだろうか。そこで問題になるのは、技術、とりわけ人工知能が、警告サインをより早く認識する助けになるかどうかだ。

毎年、何百万人ものフィリピン人労働者が年1回の健康診断を受けている。私たちは血圧、コレステロール、血糖値を測定する。X線撮影を行い、視力検査も受ける。これは、早期発見が早期介入につながるという医学の基本原則を受け入れているからだ。高血圧を見つけるために、心臓発作を起こすまで待つことはない。しかし、メンタルヘルスへの対応は依然として反応的だ。学業成績の低下、欠席の増加、仕事の質の悪化、あるいは本人がようやく助けを求めたときになって、初めて苦しんでいることが分かることが多い。最初に明白な兆候が現れるのは、すでに危機が起きた後ということもある。

私は、フィリピンの学校や職場が、AIを支援に用いた定期的なメンタルヘルス・スクリーニングを検討すべき時期だと考える。生徒や従業員は、科学的に検証されたスクリーニング手段を使い、短く機密性の高いメンタルヘルス評価を、定期的かつ任意で実施できる。そこでは、うつ、不安、ストレス、燃え尽き、孤独、いじめ、絶望感、自殺リスクに関連する指標を評価できる。これは、身体的健康指標を日常的に測定することと、原理的には大きく変わらない。目的は精神疾患を診断することではなく、専門的な注意を要する警告サインを見つけることだ。

初期スクリーニングがいかに簡潔であり得るかを示す確立された手法はすでにある。米国国立精神衛生研究所は、Ask Suicide-Screening Questions、略して ASQ ツールキットを開発した。これは4つの短い質問からなり、約20秒で実施できる。その研究では、1つ以上の質問に「はい」と答えた場合、10歳から21歳の自殺リスクのある若者の97%を特定できた。陽性結果は精神医学的診断を意味しない。さらなる評価が必要だという合図である。

人工知能は、今日の回答だけでなく、時間の経過による変化を見ることで、この手法をさらに強化できる可能性がある。たとえば、生徒が毎月、機密性の高い3分間のチェックインを行うとする。数か月はすべて正常に見えるが、徐々に回答が変化する。睡眠が悪化し、孤立が増し、学業への圧力が高まり、希望感が低下する。やがて、自己傷害の考えを示す回答が現れる。1つの回答だけで全体像が分かるとは限らないが、その軌跡は、誰かに注意が必要だと教えてくれるかもしれない。

適切に設計されたシステムは、早期警戒レーダーのように機能し得る。正常な結果であれば、予防的なウェルネス資源につなぐだけでよい。大きな悪化が見られれば、生徒や従業員に対し、学習指導カウンセラー、心理士、従業員支援プログラム、あるいは適切な専門家との面談機会を、非公開で提示できる。直ちに安全上の懸念があると示唆される回答は、確立された人による介入プロトコルを起動する。

ここで、AIの役割を明確にしておく必要がある。AIは精神疾患を診断してはならず、誰が暴力を起こすかを予測してはならず、誰が自殺のリスクがあるかを決めてはならない。AIはパターンを検出し、注意を向ける優先順位づけを助けるべきだ。評価、診断、カウンセリング、介入は、あくまで人間の手に残されなければならない。

この区別は、メンタルヘルスの問題がますます重要になっている職場において、特に重要だ。従業員は、金銭的な圧力、過重な業務、家庭の問題、長い通勤、燃え尽き、孤独、そして将来のキャリアへの不安に直面している。皮肉なことに、AIそのものも、仕事や技能が今後も通用するのかという不安を生み、別の不安要因になっている。フィリピンの労働当局は、機密保持、紹介、治療、従業員支援を含む心理社会的安全性と職場のメンタルヘルス・プログラムを重視してきた。

AI支援システムは、企業がこうした問題をより早く理解する助けになるかもしれないが、従業員監視システムになってはならない。人事部が、従業員を抑うつ、不安、あるいは自殺の可能性がある人物として一覧化したリストを受け取るべきではない。同様に、企業が福利厚生の名目で、従業員の私的メッセージ、電子メール、SNSの活動、個人端末を秘密裏に分析してはならない。不安を感じていると認めた従業員が、その回答が昇進、評価、雇用の安定に影響するのではないかと心配するようではいけない。

より良いモデルは、個人へのケアと組織的な分析を分けることだ。個人を特定できる警告は、厳格な機密保持と明確に定義されたエスカレーション手順の下で、適切な権限を持つメンタルヘルス専門職だけが利用できるようにすべきだ。管理側は代わりに、匿名化され集約された情報を受け取ることができる。たとえばCEOは、過去6か月で特定の事業部門の燃え尽き指標が大きく増加したことを知るかもしれない。それは従業員の問題ではなく、過重な業務、非現実的な目標、不適切なリーダーシップ、または健全でない組織文化という、マネジメントの問題かもしれない。

学校でも同様に、個々の生徒を不用意に特定せず、より広い傾向を把握できる。卒業学年で不安が増えているのかもしれない。1年生で孤独感が高まっているのかもしれない。ある学年で、いじめに関連する指標が急増しているのかもしれない。管理者は、問題が深刻化する前に、カウンセリング、教育、保護者との連携、その他の予防的介入で対応できる。

リスクは大きい。AIシステムは、偽陽性も偽陰性も生み得る。フィリピン人は、国際的な心理尺度が開発された集団とは異なる形で苦痛を表現するかもしれない。メンタルヘルスデータは極めて機微性が高い。そのため、いかなるシステムにも、インフォームド・コンセント、データ最小化、サイバーセキュリティ、保管期間の制限、アクセスを管理する透明な規則、臨床上の監督、人によるレビューが必要になる。子どもや青少年に対しては、さらに強い保護措置が必要だ。世界保健機関（WHO）自身も、多くのシステムがその目的のために設計も臨床的検証もされていないにもかかわらず、生成AIがすでにメンタルヘルス支援に使われていると警告している。

したがって、解決策は AI セラピストではない。私が想定するのは、もっと単純だ。定期的な検証済みスクリーニング、AI支援のパターン検出、厳格なプライバシー保護、そして資格を持つ人間による介入への確実なアクセスを組み合わせた、フィリピンのメンタルヘルス早期警戒システムである。政府、学校、企業、大学、技術企業、メンタルヘルス組織が協力し、フィリピンの文脈でこのモデルが機能するかを確かめるための管理された試験導入を行うことができる。

持ち物検査や金属探知機は、ある朝、学校への武器の持ち込みを防ぐかもしれない。必要な場所では、もちろん物理的な安全対策を強化すべきだ。しかし、門での警備が扱うのは、もっと長い物語の最後の数分にすぎない。メンタルヘルス介入は、数週間、数か月前にその人へ届いていなかったかを問いかける。

身体の健康については、私たちはすでにこの考え方を理解している。心臓発作の前に警告サインを見つけたいから、血圧を測るのだ。

ならば、心にも同じ考え方を適用する時が来ているのかもしれない。

ドナルド・パトリック・リム博士は、Global AI Council Philippines および Blockchain Council of the Philippines の創設会長であり、Cybersecurity Council の創設議長でもある。同評議会は、企業組織を前進させるために新興技術の正しい使い方を提唱することを使命としている。現在は DITO CME Holdings Corp. の社長兼 COO を務めている。