Совет Безопасности ООН на протяжении десятилетий служил площадкой для обсуждения экзистенциальных угроз — ядерного оружия, изменения климата, пандемий. Совет Безопасности является органом ООН, несущим основную ответственность за международный мир и безопасность, что делает его повестку своеобразным барометром того, как правительства в совокупности оценивают глобальные риски. 23 сентября 2026 года в этот список был добавлен новый пункт: искусственный интеллект, который может выйти из-под человеческого контроля.

Сэм Альтман, генеральный директор OpenAI, и Дарио Амодеи, генеральный директор Anthropic, выступили перед Советом Безопасности в ходе ежегодной сессии Генеральной Ассамблеи ООН — сентябрьского мероприятия в Нью-Йорке, собирающего глав государств и правительств в одном месте. Оба призвали мировых лидеров выстроить механизмы сотрудничества в области безопасности ИИ до того, как траектория развития технологии обгонит институты, призванные ее регулировать.

Что сказали руководители компаний

Основной посыл Альтмана сводился к общности интересов. Он утверждал, что у государств есть общие интересы в управлении мощными новыми технологиями, и именно эти общие интересы, а не конкуренция, должны стать основой международной координации.

Амодеи пошел дальше, предупредив, что ИИ может представлять реальную угрозу человечеству, если процесс разработки не сопровождается надлежащими мерами предосторожности. Его выступление в ООН последовало за эссе от 12 сентября, в котором он публично призвал к более умеренным темпам развития возможностей ИИ и выступил за размещение независимых оценщиков внутри лабораторий для обеспечения подотчетности, которую внутренние команды не могут обеспечить самостоятельно.

Значение заседания вышло далеко за рамки списка докладчиков. Это было первое в истории Совета Безопасности ООН брифинг, посвященный непосредственно рискам безопасности передового (frontier) ИИ — термином обычно обозначают наиболее мощные ИИ-системы на переднем крае разработок. Это сигнал о том, что дискуссия перешла из академических конференций и подкастов Кремниевой долины в механизм формальной международной дипломатии.

К дискуссии присоединились и другие известные голоса. Клеман Деланж, генеральный директор Hugging Face, принял участие вместе с Йошуа Бенджио — одним из основоположников современного глубокого обучения и последовательным сторонником осторожности в развитии ИИ. Китайские разработчики ИИ также были приглашены к участию — примечательная деталь с учетом геополитических напряжений, пронизывающих всю эту дискуссию.

Дипатия, разногласия и рекурсивное самоулучшение

Конкретный риск, который обсуждался на большей части заседания, — это рекурсивное самоулучшение: возможность того, что продвинутые ИИ-системы смогут итеративно наращивать собственные возможности способами, выходящими за рамки значимого человеческого контроля.

Заседание прошло и в контексте более широкой дипломатической ситуации. Диалог США и Китая по регулированию ИИ незаметно расширяется, и приглашение китайских разработчиков на заседание в ООН отражает попытку сделать дискуссию по-настоящему глобальной, а не сводить ее к установлению западных стандартов под видом мультилатерализма.

Эта попытка сталкивается с прямым политическим сопротивлением. Президент США Дональд Трамп публично отверг то, что он охарактеризовал как глобалистскую схему контроля над ИИ, — такое framing представляет международную координацию как угрозу технологическому лидерству Америки, а не как механизм управления общими рисками.

Присутствие Бенджио добавило иное измерение. Он работает вне коммерческой экосистемы ИИ и не имеет продуктовой дорожной карты, которую нужно защищать. Его участие рядом с руководителями OpenAI и Anthropic свидетельствует о редком сближении академических исследователей безопасности и лидеров индустрии в вопросе необходимости международных механизмов.

Что дальше

Заседание Совета Безопасности не завершилось обязывающими соглашениями или официальными резолюциями. Это различие имеет значение: согласно Уставу ООН, резолюции Совета Безопасности могут иметь обязательную силу для государств-членов, что делает официальные действия Совета одним из самых сильных инструментов, доступных в международном управлении.

Для OpenAI и Anthropic в частности поддержка глобальных стандартов — обоюдоострая стратегия. С одной стороны, компании, ориентированные на интересы индустрии и участвующие в формировании международных рамок, нередко получают стандарты, отражающие их существующую практику, что является конкурентным преимуществом. С другой стороны, любая серьезная многосторонняя система, вероятно, привнесет именно тот вид независимой оценки и надзора, который Амодеи описал в своем эссе от 12 сентября, а это создает операционное трение, которого сегодня не существует.

Любые международные рамки безопасности ИИ, исключающие Китай, по определению неполны, учитывая масштаб китайских разработок в области ИИ. Но включение Китая означает переговоры через принципиально различные регуляторные философии и политические системы.