Король Чарльз III заявил главам крупнейших компаний в сфере искусственного интеллекта, что они должны найти способы сохранить человеческий контроль над этой технологией, предупредив, что сами её создатели теперь опасаются, будто она может приобрести «тёмные способности» и даже быть обращена на убийство.

Частная встреча в Шотландии

Король выступил в поместье Дамфрис-хаус в Ист-Эйршире, Шотландия, на встрече, организованной фондом Дитчли. Мероприятие собрало около 30 руководителей, чиновников и исследователей, среди которых были министр Великобритании по вопросам ИИ Канишка Нараян, генеральный директор Nvidia Дженсен Хуанг, сооснователь DeepMind Демис Хассабис, финансовый директор OpenAI Сара Фрайер и глава глобальных вопросов Anthropic Тино Куэльяр.

По данным Bloomberg, ознакомившегося с закрытым списком гостей, в него также якобы входили глава MI6 Блейз Метревели, автор Юваль Ной Харари и Сюэ Лань из Университета Цинхуа. Широта состава участников — руководители передовых лабораторий рядом с министром правительства, главой разведки, писателем и советником Ватикана — показала, как далеко тема безопасности ИИ продвинулась от технической дисссии к вопросу государственного управления.

Чарльз, 77 лет, говорил лишь около 20 минут, после чего покинул зал, надеясь на продуктивные обсуждения. По его словам, те, кто ценит моральное ядро человечества, «с тревогой ищут вашего заверения, что мы не утратим контроль над нашей судьбой или нашими душами».

«Интригующе и глубоко тревожно в равной мере»

Монарх охарактеризовал темпы развития технологии как «интригующие и глубоко тревожные в равной мере». Он отметил и похвалил её достижения в медицине и науках о жизни, прежде чем задать аудитории прямой вопрос: «Неужели нам не нужны достаточные средства контроля, пока не стало слишком поздно?»

Король сослался на опасения самих создателей ИИ, сказав, что системы рискуют «развить тёмные способности, возможно, даже отнимать жизнь». Он призвал руководителей оценить «экзистенциальные опасности» попадания таких инструментов в чужие руки.

Это не первый случай, когда Чарльз высказывал подобные опасения: в 2023 году он направил видеообращение к саммиту Великобритании по безопасности ИИ в Блетчли-парке, выразив схожие мысли. Советник Ватикана по ИИ Паоло Бенанти присутствовал на шотландском саммите, а папа Лев XIV написал в майской энциклике, что ИИ не должен оставаться в руках «немногих».

Что сказали руководители ИИ-компаний

Демис Хассабис сообщил участникам, что общий искусственный интеллект — системы, способные соответствовать людям или превосходить их во многих задачах — находится, «вероятно, всего в нескольких годах от нас». Он сказал, что такая технология может оказать воздействие в десять раз больше, чем промышленная революция. Вероятность того, что что-то пойдёт не так, добавил он, «определённо ненулевая», хотя тут же заметил, что «будущее ещё не написано».

Сара Фрайер отметила, что растущая мощь технологии ставит вопрос о том, как сохранить её на службе людям, добавив, что «ни одна компания или правительство не могут справиться с этим в одиночку».

Хуанг, чья Nvidia оценивается почти в 5,15 трлн долларов, заявил собравшимся, что безопасность имеет первостепенное значение и что продукт следует отложить, если он не готов. Он выступил за регулирование ИИ-продуктов, а не самой технологии, и защитил открытые модели как способ не допустить отстранения меньших стран и исследователей. Это различие — для самой технологии против правил для продуктов на её основе — находится в центре регуляторных дебатов по всему миру. В сочетании с предупреждением Фрайер о том, что ни один участник не может справиться с технологией в одиночку, эти выступления очертили два широких подхода, формирующих сегодня надзор за ИИ: к чему должны применяться правила и кто должен их нести.

Дискуссия, обострённая предупреждениями из отрасли

Саммит прошёл на фоне внутренней тревоги в отрасли — после вирусного поста об уходе исследователя Anthropic Джейкоба Коксона и прогноза его коллеги Эвана Хубингера о том, что вероятность того, что ИИ вызовет вымирание человечества, составляет 10%. Cryptopolitan сообщал, что глава Anthropic Дарио Амодеи опубликовал эссе с призывом к лабораториям «сдерживать темпы на переднем крае», а OpenAI на этой неделе запустила систему, предназначенную для раскрытия нарушений моделей, зафиксировав шесть случаев тревожного поведения.

Однако не все согласны с тем, что опасность реальна: президент Дональд Трамп назвал такие страхи «мистификацией». Как закроется этот разрыв — через встроенные лабораториями меры защиты вроде новой системы раскрытия OpenAI, регулирование продуктов, которого придерживается Хуанг, или «сдерживание темпов», к которому призывал Амодеи, — вопрос, который теперь следует за руководителями из Дамфрис-хауса.

Источник: Cryptopolitan