Ostatnie incydenty z użyciem broni palnej w filipińskich szkołach zrozumiale wywołały niepokój wśród rodziców, nauczycieli i urzędników państwowych. W sierpniu uczeń klasy 9 na Ateneo de Zamboanga University zastrzelił innego ucznia, po czym odebrał sobie życie. Zdarzenie to miało miejsce zaledwie kilka tygodni po innej śmiertelnej strzelaninie szkolnej w Tacloban. Te tragedie są złożone i należy uważać, by nie utożsamiać problemów ze zdrowiem psychicznym z przemocą. Większość osób doświadczających trudności psychicznych nie jest agresywna. Ale te wydarzenia powinny skłonić nas do pytania, czy robimy wystarczająco dużo, aby zidentyfikować młodych ludzi przeżywających poważny kryzys, zanim do niego dojdzie.

Natychmiastową reakcją było zrozumiałe zaostrzenie zabezpieczeń fizycznych. Szkoły zwiększyły kontrole plecaków, a pojawiły się propozycje wykrywaczy metalu, a nawet przezroczystych szkolnych toreb. Rozumiem dlaczego. Gdy rodzice wysyłają dzieci do szkoły, oczekują, że wrócą bezpiecznie do domu. Ale wyobraźmy sobie setki lub tysiące uczniów przychodzących każdego ranka mniej więcej o tej samej porze i każdą torbę sprawdzaną pod kątem broni palnej, noża lub innego zakazanego przedmiotu. Poza tworzeniem długich kolejek i wymaganiem dużej liczby osób do pracy, próbujemy wykryć zagrożenie w ostatniej możliwej chwili — gdy broń dotarła już do szkolnej bramy. Szukamy metalowego przedmiotu zamiast pytać, co stało się z dzieckiem, które zdecydowało się go przynieść.

Ochrona fizyczna zawsze będzie konieczna, ale nie może być naszą jedyną linią obrony. Być może powinniśmy poświęcać tyle samo uwagi wykrywaniu cierpienia, co wykrywaniu broni. Pojawia się więc pytanie, czy technologia, zwłaszcza sztuczna inteligencja, może pomóc nam wcześniej rozpoznawać sygnały ostrzegawcze.

Co roku miliony filipińskich pracowników przechodzą badania okresowe. Mierzymy ciśnienie krwi, cholesterol i poziom cukru. Wykonujemy zdjęcia rentgenowskie i sprawdzamy wzrok, ponieważ akceptujemy podstawową zasadę medycyny: wczesne wykrycie umożliwia wczesną interwencję. Nie czekamy, aż ktoś dostanie zawału, by odkryć nadciśnienie. Tymczasem nasze podejście do zdrowia psychicznego pozostaje w dużej mierze reaktywne. Często odkrywamy, że ktoś ma trudności, dopiero gdy wyniki w nauce gwałtownie spadają, rośnie absencja, pogarsza się praca albo dana osoba w końcu prosi o pomoc. Czasem pierwsza oczywista oznaka pojawia się dopiero wtedy, gdy kryzys już nastąpił.

Uważam, że nadszedł czas, aby filipińskie szkoły i miejsca pracy zaczęły rozważać okresowe badania przesiewowe zdrowia psychicznego wspierane przez AI. Uczniowie i pracownicy mogliby okresowo i dobrowolnie wypełniać krótkie, poufne oceny zdrowia psychicznego z wykorzystaniem naukowo zwalidowanych narzędzi przesiewowych. Mogłyby one oceniać wskaźniki związane z depresją, lękiem, stresem, wypaleniem, samotnością, nękaniem, beznadziejnością lub ryzykiem samobójczym. Zasada byłaby tu zasadniczo podobna do rutynowego mierzenia wskaźników zdrowia fizycznego. Celem nie jest diagnozowanie choroby psychicznej, lecz identyfikowanie sygnałów ostrzegawczych wymagających profesjonalnej uwagi.

Istnieją już sprawdzone narzędzia pokazujące, jak proste może być wstępne badanie przesiewowe. US National Institute of Mental Health opracował zestaw Ask Suicide-Screening Questions, czyli ASQ, składający się z czterech krótkich pytań, które można zadać w około 20 sekund. W badaniu odpowiedź „tak” na jedno lub więcej pytań identyfikowała 97% młodych osób w wieku od 10 do 21 lat zagrożonych samobójstwem. Pozytywny wynik nie stanowi diagnozy psychiatrycznej. Oznacza potrzebę dalszej oceny przez wykwalifikowaną osobę.

Sztuczna inteligencja może potencjalnie uczynić to podejście skuteczniejszym, analizując nie tylko dzisiejsze odpowiedzi, lecz także zmiany w czasie. Wyobraźmy sobie ucznia, który co miesiąc wypełnia poufną, trzyminutową ankietę. Przez kilka miesięcy wszystko wygląda normalnie, ale stopniowo odpowiedzi się zmieniają. Sen się pogarsza. Izolacja narasta. Presja akademicka rośnie. Nadzieja słabnie. W końcu odpowiedzi wskazują na myśli samookaleczenia. Pojedyncza odpowiedź nie musi mówić nam całej historii, ale trajektoria może pokazać, że ktoś potrzebuje uwagi.

Dobrze zaprojektowany system mógłby więc działać jak radar wczesnego ostrzegania. Wyniki prawidłowe mogłyby po prostu kierować do profilaktycznych zasobów wspierających dobrostan. Znaczne pogorszenie mogłoby prywatnie zaoferować uczniowi lub pracownikowi spotkanie z doradcą, psychologiem, programem wsparcia pracowników lub innym odpowiednim specjalistą. Odpowiedzi sugerujące bezpośrednie zagrożenie bezpieczeństwa uruchamiałyby ustalony protokół interwencji prowadzony przez człowieka.

To właśnie tutaj musimy bardzo jasno określić rolę AI. Nie powinna ona diagnozować chorób psychicznych, przewidywać, kto dopuści się przemocy, ani decydować, kto jest samobójczy. AI ma wykrywać wzorce i pomagać ustalać priorytety uwagi. Ocena, diagnoza, poradnictwo i interwencja muszą pozostać w ludzkich rękach.

To rozróżnienie jest szczególnie ważne w miejscu pracy, gdzie kwestie zdrowia psychicznego stają się również coraz istotniejsze. Pracownicy mierzą się z presją finansową, wymagającym obciążeniem pracą, problemami rodzinnymi, długimi dojazdami, wypaleniem, samotnością i niepewnością dotyczącą kariery. Paradoksalnie sama AI dodaje kolejny źródło niepokoju, ponieważ ludzie zastanawiają się, czy ich praca i umiejętności pozostaną aktualne. Filipińskie władze pracy podkreślają znaczenie bezpieczeństwa psychospołecznego i programów zdrowia psychicznego w miejscu pracy, w tym poufności, skierowań, leczenia i wsparcia pracowników.

System wspomagany przez AI mógłby pomóc firmom wcześniej zrozumieć te problemy, ale nigdy nie może stać się systemem nadzoru nad pracownikami. Dział HR nie powinien otrzymywać listy identyfikującej pracowników jako osoby z depresją, lękiem lub potencjalnie samobójcze. Firmy nie powinny też potajemnie analizować prywatnych wiadomości pracowników, e-maili, aktywności w mediach społecznościowych ani urządzeń osobistych w imię dobrostanu. Pracownik, który przyznaje się do odczuwania lęku, nigdy nie powinien się zastanawiać, czy odpowiedź ta wpłynie na jego awans, ocenę pracy lub bezpieczeństwo zatrudnienia.

Lepszy model oddziela opiekę indywidualną od wiedzy instytucjonalnej. Identyfikujące osobę alerty powinny być dostępne wyłącznie dla odpowiednio upoważnionych specjalistów zdrowia psychicznego działających przy ścisłej poufności i jasno określonych protokołach eskalacji. Zarząd mógłby natomiast otrzymywać zanonimizowane, zagregowane informacje. Prezes mógłby na przykład dowiedzieć się, że wskaźniki wypalenia znacząco wzrosły w jednym dziale w ciągu ostatnich sześciu miesięcy. Może to ujawniać nie problem pracowniczy, lecz problem zarządczy związany z nadmiernym obciążeniem pracą, nierealistycznymi celami, słabym przywództwem lub niezdrową kulturą.

Szkoły mogłyby podobnie dostrzegać szersze trendy bez niepotrzebnego identyfikowania poszczególnych uczniów. Być może lęk nasila się wśród uczniów kończących szkołę. Być może samotność rośnie wśród pierwszoroczniaków. Być może wskaźniki związane z nękaniem nagle wzrosły na określonym poziomie nauczania. Administratorzy mogliby odpowiedzieć poradnictwem, edukacją, zaangażowaniem rodziców i innymi działaniami zapobiegawczymi, zanim problem stanie się poważniejszy.

Istnieją jednak istotne ryzyka. Systemy AI mogą generować fałszywe wyniki dodatnie i fałszywe wyniki ujemne. Filipińczycy mogą wyrażać cierpienie inaczej niż populacje, na których opracowano międzynarodowe narzędzia psychologiczne. Dane dotyczące zdrowia psychicznego są również wyjątkowo wrażliwe. Każdy system wymagałby zatem świadomej zgody, minimalizacji danych, cyberbezpieczeństwa, ograniczonego okresu przechowywania, przejrzystych zasad dostępu, nadzoru klinicznego i ludzkiej weryfikacji. W przypadku dzieci i młodzieży zabezpieczenia muszą być jeszcze silniejsze. Sama Światowa Organizacja Zdrowia ostrzegła, że generatywna AI jest już wykorzystywana do wsparcia zdrowia psychicznego, mimo że wiele systemów nie zostało do tego zaprojektowanych ani klinicznie zwalidowanych.

Rozwiązaniem nie jest więc terapeuta AI. To, co sobie wyobrażam, jest znacznie prostsze: filipiński system wczesnego ostrzegania w obszarze zdrowia psychicznego, łączący okresowe, zwalidowane badania przesiewowe, wykrywanie wzorców wspierane przez AI, ścisłą ochronę prywatności i gwarantowany dostęp do kwalifikowanej interwencji człowieka. Rząd, szkoły, przedsiębiorstwa, uczelnie, firmy technologiczne i organizacje zajmujące się zdrowiem psychicznym mogłyby współpracować przy kontrolowanych pilotażach, aby ustalić, czy taki model działa w filipińskich warunkach.

Kontrole bagażu i wykrywacze metalu mogą zapobiec wniesieniu broni do szkoły danego ranka. Tam, gdzie to konieczne, powinniśmy oczywiście poprawiać bezpieczeństwo fizyczne. Ale bezpieczeństwo przy bramie dotyczy ostatnich kilku minut potencjalnie znacznie dłuższej historii. Interwencja w zdrowie psychiczne pyta, czy mogliśmy dotrzeć do tej osoby tygodnie lub miesiące wcześniej.

Tę filozofię już rozumiemy w odniesieniu do zdrowia fizycznego. Badamy ciśnienie krwi, ponieważ wolelibyśmy odkryć sygnały ostrzegawcze przed zawałem serca.

Być może nadszedł czas, by zastosować to samo myślenie do umysłu.

Dr Donald Patrick Lim jest założycielem i pierwszym prezesem Global AI Council Philippines oraz Blockchain Council of the Philippines, a także założycielem i przewodniczącym Cybersecurity Council, którego misją jest propagowanie właściwego wykorzystania nowych technologii w celu rozwoju organizacji biznesowych. Obecnie jest prezesem i dyrektorem operacyjnym DITO CME Holdings Corp.