Недавние случаи стрельбы в школах Филиппин, что вполне понятно, вызвали тревогу у родителей, педагогов и государственных должностных лиц. В августе ученик 9-го класса Ateneo de Zamboanga University застрелил другого ученика, а затем покончил с собой. Этот инцидент произошел всего через несколько недель после другой смертельной стрельбы в школе в Tacloban. Эти трагедии сложны, и нам следует быть осторожными, чтобы не приравнивать проблемы психического здоровья к насилию. Большинство людей, испытывающих трудности с психическим здоровьем, не склонны к насилию. Но эти случаи должны заставить нас спросить, достаточно ли мы делаем, чтобы выявлять молодых людей, переживающих серьезный кризис, до того, как они достигнут точки обострения.

Немедленной реакцией, что тоже понятно, стало ужесточение физической безопасности. В школах усилили досмотр сумок, а также появились предложения установить металлодетекторы и даже использовать прозрачные школьные сумки. Я понимаю почему. Когда родители отправляют детей в школу, они ожидают, что те благополучно вернутся домой. Но представьте себе сотни или тысячи учеников, прибывающих каждое утро примерно в одно и то же время, и досмотр каждой сумки на наличие пистолета, ножа или другого запрещенного предмета. Помимо длинных очередей и значительных трудозатрат, мы пытаемся обнаружить опасность в самый последний момент — когда оружие уже оказалось у школьных ворот. Мы ищем металлический предмет вместо того, чтобы спросить, что произошло с ребенком, который решил его принести.

Физическая безопасность всегда будет необходима, но она не может быть нашей единственной линией обороны. Возможно, нам следует уделять выявлению неблагополучия столько же внимания, сколько мы уделяем выявлению оружия. Тогда возникает вопрос, может ли технология, особенно искусственный интеллект, помочь нам раньше распознавать предупреждающие сигналы.

Ежегодно миллионы филиппинских работников проходят плановые медицинские осмотры. Мы измеряем давление, холестерин и уровень сахара в крови. Мы делаем рентген и проверяем зрение, потому что принимаем основополагающий принцип медицины: раннее выявление позволяет раньше начать вмешательство. Мы не ждем сердечного приступа, чтобы обнаружить гипертонию. Однако наш подход к психическому здоровью по-прежнему в основном остается реактивным. Мы часто узнаем о проблемах человека только тогда, когда снижается успеваемость, растет отсутствие, ухудшается работа или человек наконец просит о помощи. Иногда первый очевидный признак появляется уже после того, как кризис произошел.

Я считаю, что пришло время школам и рабочим местам на Филиппинах изучить периодический скрининг психического здоровья с поддержкой AI. Ученики и сотрудники могли бы периодически и добровольно проходить короткие конфиденциальные оценки психического здоровья с использованием научно валидированных скрининговых инструментов. Они могут оценивать показатели, связанные с депрессией, тревогой, стрессом, выгоранием, одиночеством, буллингом, безнадежностью или риском суицида. По сути это не так уж отличается от регулярного измерения показателей физического здоровья. Цель не в том, чтобы диагностировать психическое расстройство, а в том, чтобы выявлять предупреждающие сигналы, требующие профессионального внимания.

Уже существуют проверенные инструменты, показывающие, насколько простым может быть первоначальный скрининг. US National Institute of Mental Health разработал набор Ask Suicide-Screening Questions, или ASQ, который состоит из четырех коротких вопросов и может быть проведен примерно за 20 секунд. В исследовании положительный ответ хотя бы на один вопрос позволил выявить 97% молодых людей в возрасте от 10 до 21 года, находившихся в группе риска по суициду. Положительный результат не является психиатрическим диагнозом. Он указывает на необходимость дальнейшей оценки квалифицированным специалистом.

Искусственный интеллект потенциально может сделать такой подход более эффективным, если анализировать не только сегодняшние ответы, но и изменения с течением времени. Представьте себе ученика, который каждый месяц проходит трехминутную конфиденциальную проверку. Несколько месяцев все выглядит нормально, но затем ответы постепенно меняются. Сон ухудшается. Растет изоляция. Усиливается учебное давление. Снижается надежда на будущее. В конце концов ответы указывают на мысли о самоповреждении. Ни один отдельный ответ не обязательно рассказывает всю историю, но траектория может показать, что человеку нужна помощь.

Правильно спроектированная система могла бы работать как радар раннего предупреждения. Нормальные результаты могли бы просто вести к профилактическим ресурсам по благополучию. Значительное ухудшение могло бы конфиденциально предложить ученику или сотруднику встречу с школьным консультантом, психологом, службой помощи сотрудникам или другим подходящим специалистом. Ответы, указывающие на немедленную угрозу безопасности, должны запускать установленный протокол человеческого вмешательства.

Именно здесь нам нужно предельно ясно понимать роль AI. Он не должен диагностировать психические расстройства, предсказывать, кто совершит насилие, или решать, кто находится в суицидальном состоянии. AI должен выявлять закономерности и помогать расставлять приоритеты внимания. Оценка, диагноз, консультирование и вмешательство должны оставаться в руках людей.

Это различие особенно важно на рабочем месте, где проблемы психического здоровья становятся все более значимыми. Сотрудники сталкиваются с финансовым давлением, высокой нагрузкой, семейными проблемами, долгими поездками на работу, выгоранием, одиночеством и неопределенностью относительно карьеры. Ирония в том, что сам AI добавляет еще один источник тревоги, поскольку люди задаются вопросом, сохранятся ли актуальность их работа и навыки. Трудовые органы Филиппин подчеркивают важность психосоциальной безопасности и программ психического здоровья на рабочем месте, включая конфиденциальность, направление к специалистам, лечение и поддержку сотрудников.

Система с поддержкой AI могла бы помочь компаниям раньше понимать эти проблемы, но она никогда не должна превращаться в систему слежки за сотрудниками. Отдел кадров не должен получать список сотрудников, обозначенных как депрессивные, тревожные или потенциально суицидальные. Компании также не должны тайно анализировать личные сообщения сотрудников, электронную почту, активность в социальных сетях или личные устройства под предлогом заботы о благополучии. Сотрудник, признавшийся в тревоге, никогда не должен задумываться, повлияет ли этот ответ на его повышение, оценку эффективности или сохранность рабочего места.

Более правильная модель разделяет индивидуальную помощь и институциональную аналитику. Идентифицируемые персонально уведомления должны быть доступны только надлежащим образом уполномоченным специалистам по психическому здоровью, работающим в условиях строгой конфиденциальности и по четко определенным протоколам эскалации. Руководство же могло бы получать анонимизированную, агрегированную информацию. Например, генеральный директор мог бы увидеть, что за последние шесть месяцев показатели выгорания существенно выросли в одном подразделении. Это может указывать не на проблему сотрудников, а на управленческую проблему, связанную с чрезмерной нагрузкой, нереалистичными целями, слабым руководством или нездоровой культурой.

Школы могли бы аналогичным образом видеть более широкие тенденции, не идентифицируя без необходимости отдельных учеников. Возможно, среди выпускников растет тревожность. Возможно, среди первокурсников усиливается одиночество. Возможно, в определенном классе резко выросли показатели, связанные с буллингом. Администрация могла бы реагировать консультациями, просвещением, вовлечением родителей и другими профилактическими мерами до того, как проблема станет серьезнее.

Существуют и серьезные риски. Системы AI могут давать ложноположительные и ложноотрицательные результаты. Филиппинцы могут выражать стресс иначе, чем те группы населения, на которых разрабатывались международные психологические инструменты. Данные о психическом здоровье также чрезвычайно чувствительны. Поэтому любая система потребует информированного согласия, минимизации данных, кибербезопасности, ограниченного срока хранения, прозрачных правил доступа, клинического надзора и человеческой проверки. Для детей и подростков меры защиты должны быть еще более строгими. Сам Всемирная организация здравоохранения предупреждала, что генеративный AI уже используется для поддержки психического здоровья, хотя многие такие системы не были спроектированы или клинически валидированы для этой цели.

Следовательно, решение — не AI-терапевт. То, что я представляю, гораздо проще: филиппинская система раннего предупреждения в сфере психического здоровья, сочетающая периодический валидированный скрининг, анализ закономерностей с помощью AI, строгую защиту конфиденциальности и гарантированный доступ к квалифицированному человеческому вмешательству. Правительство, школы, корпорации, университеты, технологические компании и организации в сфере психического здоровья могли бы совместно проводить контролируемые пилотные проекты, чтобы определить, работает ли такая модель в филиппинском контексте.

Досмотр сумок и металлодетекторы могут помешать оружию попасть в школу в конкретное утро. Где необходимо, нам действительно следует усиливать физическую безопасность. Но безопасность у ворот касается лишь последних нескольких минут, возможно, гораздо более длинной истории. Вмешательство в сфере психического здоровья ставит вопрос: могли ли мы помочь этому человеку на недели или месяцы раньше.

Мы уже понимаем эту философию, когда речь идет о физическом здоровье. Мы измеряем давление, потому что предпочли бы выявить предупреждающие признаки до сердечного приступа.

Возможно, пришло время применить тот же подход и к психике.

Доктор Donald Patrick Lim — основатель и президент Global AI Council Philippines и Blockchain Council of the Philippines, а также основатель и председатель Cybersecurity Council, миссия которого — продвигать правильное использование новых технологий для развития бизнес-организаций. В настоящее время он является президентом и главным операционным директором DITO CME Holdings Corp.