Верховный комиссар ООН по правам человека Фёлькер Тюрк 7 сентября заявил, выступая в Совете по правам человека в Женеве, что искусственный интеллект развивается до точки, где он может представлять экзистенциальную угрозу человечеству.

Тюрк призвал правительства действовать безотлагательно, создавая защитные механизмы и ограничивая лаборатории ИИ, соревнующиеся за лидерство в технологиях автономных систем: по его словам, участившиеся нарушения и инциденты безопасности свидетельствуют о риске выхода этой сферы из-под контроля.

Главная обеспокоенность представителя ООН состоит в том, что технологии ИИ развиваются быстрее, чем системы управления, призванные за ними следить. Предупреждение прозвучало на фоне фрагментированного регуляторного ландшафта: дальше всех продвинулся ЕС с законом об ИИ, вступившим в силу в 2024 году и поэтапно вводящим обязательства для систем высокого риска, тогда как США в основном полагаются на отраслевые нормы и добровольные обязательства, а обязывающая международная координация остаётся ограниченной. По словам Тюрка, бесконтрольный рост вывел угрозу за рамки дезинформации и потери рабочих мест в экзистенциальную плоскость, включая безопасность, подотчётность и отсутствие реального надзора за высокоавтономными системами.

Призыв к срочным международным действиям

Тюрк обосновал свой призыв к скоординированным международным действиям тем, что закрывается окно, в котором возможности ИИ ещё можно ограничить. Он также раскритиковал то, что темпы и направление развития отрасли непропорционально сосредоточены в руках узкого круга технологических руководителей и компаний.

В качестве решения Тюрк предложил, чтобы страны, где размещены ведущие компании в сфере ИИ, а также те, кто контролирует критические цепочки поставок — в эту группу входят США и Китай, где сосредоточена большая часть разработок передового ИИ и производство чипов — установили «красные линии», определяющие, насколько далеко они готовы допустить развитие этой технологии.

Верховный комиссар возвращается к теме, которую ООН рассматривала на первом Глобальном диалоге по управлению ИИ, состоявшемся в июле в том же швейцарском городе (заявление ООН).

На саммите МСЭ «ИИ во благо», где начался этот разговор, Тюрк заявил: «Мы не рассматриваем стандарты безопасности для лекарств, автомобилей или самолётов как препятствие прогрессу. Именно они — причина, по которой люди изначально доверяют этим технологиям», согласно видеоматериалам ООН. Человеческий надзор, добавил он, «не может быть простой формальностью».

Среди доказательной базы, представленной на том саммите, были выводы Сони Ливингстон из мандатного ООН Глобального научного комитета по ИИ. В исследовании, охватившем 11 стран Глобального Юга, как минимум один ребёнок в каждом классе сообщил, что стал объектом сексуально откровенных дипфейков на основе ИИ.

Глава структуры «ООН-женщины» Сима Бахус подчеркнула гендерное измерение проблемы. Она отметила, что около 88% ведущих исследователей ИИ — мужчины, и сообщила, что как минимум каждая четвёртая из опрошенных её структурой женщин-активисток и журналисток сталкивалась с онлайн-насилием с применением ИИ.

Реакция лабораторий ИИ и законодателей

ООН не одинока в своих тревогах этим летом. Сенатор США Берни Сандерс призвал к немедленной приостановке разработки передового ИИ и постоянному запрету сверхинтеллекта, а межпартийная группа британских парламентариев добивалась законодательно обязательных «кнопок отключения» для ИИ после того, как они описали серию инцидентов с неконтролируемым ИИ.

Эти опасения последовали за заявлением OpenAI, связанным с её моделью GPT-6 Astra, о том, что её технология достигла искусственного общего интеллекта, и признанием Anthropic, что её собственные модели «не идеально согласованы» с человеческими ценностями.

Часть давления исходит и из самой отрасли. В июньской статье, освещённой Axios, генеральный директор Anthropic Дарио Амодеи утверждал, что правительства должны иметь законное право блокировать или отменять опасные внедрения ИИ, а передовые модели должны проходить обязательное тестирование, сопоставимое с испытаниями автомобилей, самолётов или новых лекарств.

В собственном докладе Совету Тюрк распространил этот аргумент на военную сферу, поддержав призывы запретить оружие, способное убивать без участия человека в контуре принятия решений — вопрос, который государства-члены ООН обсуждают годами, не заключив юридически обязывающего договора об автономном оружии.