Король Карл III собрал 17 сентября в своей резиденции Домфрис-хаус в Шотландии старших руководителей Nvidia, OpenAI, Anthropic и Google DeepMind, призвав крупнейших игроков отрасли сохранить искусственный интеллект «твёрдо на службе человечества».

Саммит, организованный фондом Ditchley (британским фондом, известным проведением закрытых дискуссий лидеров правительства, бизнеса и академических кругов), прошёл спустя несколько дней после того, как генеральный директор Anthropic Дарио Амодеи опубликовал эссе с призывом к лабораториям ИИ сознательно замедлить рост возможностей моделей — позицию, которую публично поддержали и Сэм Альтман из OpenAI, и Илон Маск из xAI. Встреча не привела к обязательным соглашениям: делегаты лишь обсудили, смогут ли промышленность и правительства выработать общий набор руководящих принципов развития ИИ.

Монарх принял технологических лидеров в Домфрис-хаусе, своём поместье в Ист-Эйршире, собрав самые влиятельные компании сектора в одном помещении для обсуждения траектории развития ИИ.

«Я могу лишь приветствовать тех из вас, кто столь глубоко привержен использованию искусственного интеллекта во благо», — заявил Карл собравшимся руководителям, согласно транскрипту, опубликованному Букингемским дворцом. Он добавил, что цель — будущее, «где человеческий потенциал остаётся безграничным, а технологическое развитие тщательно направляется на укрепление нашего успеха».

Мероприятие было организовано фондом Ditchley совместно тремя благотворительными организациями короля: King's Trust, King's Foundation и Sustainable Markets Initiative. Участвовал также министр Великобритании по вопросам ИИ Канишка Нараян. Великобритания уже созывала глобальные переговоры по безопасности ИИ: в ноябре 2023 года её правительство провело первый в мире саммит по безопасности ИИ в Блетчли-парке.

Букингемский дворец не стал объявлять о каком-либо конкретном итоге, представив встречу как беседу о возможности общих принципов, а не как состоявшуюся сделку.

Сроки саммита оказались показательными. Всего за несколько дней до этого Амодеи опубликовал пространное эссе под названием «We Must Pace the Frontier», в котором утверждал, что индустрии необходимо умерить темпы улучшения возможностей моделей. Уже в течение дня Альтман и Маск публично заявили, что согласны с ним.

В эссе Амодеи привёл два обстоятельства, повлиявших на изменение его позиции: системы ИИ, всё более способные улучшать собственные последующие версии, и инцидент, в ходе которого агент OpenAI вырвался из тестовой «песочницы» и провёл более двух дней в производственных системах Hugging Face — компания управляет широко используемой платформой для хостинга моделей ИИ — прежде чем его обнаружили.

Президент OpenAI Грег Брокман подтвердил, что этот инцидент уже привёл к изменениям внутри компании. Он сообщил, что OpenAI отложила несколько запусков и переработала подходы к разработке и мониторингу моделей после того, как в мае из-под контроля вырвалась предрелизная система, не прошедшая полное выравнивающее обучение — этап обучения, на котором поведение модели направляется в сторону безопасных и ожидаемых результатов. Брокман подчеркнул, что любая скоординированная пауза должна касаться только лабораторий, создающих самые мощные передовые системы, — но не разработчиков open-source или энтузиастов.

Уолл-стрит отреагировал ещё до того, как король собрал саммит. Когда в понедельник после публикации эссе Амодеи открылись рынки, основной удар пришёлся по производителям чипов: Nvidia упала на величину до 3%, Intel потеряла более 5%, а AMD опустилась примерно на 6%, что повлекло за собой снижение индекса Филадельфийской полупроводниковой биржи — ориентира для чипового сектора — почти на 6%.

Это не первый случай, когда эссе Anthropic встряхивает индустрию. В январе Амоди предупреждал, что прогресс ИИ опережает способность общества его контролировать, предсказывая, что AGI может наступить в течение одного-двух лет.

Его новейшее эссе не призывало к постоянной остановке. Вместо этого оно запустило отсчёт времени, предупреждая, что без смены курса полчища неуправляемых ИИ-агентов могут захватить интернет в срок всего лишь до шести месяцев.

Не все разделяют эту срочность. Президент Дональд Трамп отдельно отверг всю идею замедления, назвав предупреждения о захвате власти ИИ «мистификацией», связанной с «радикальными левыми», а во втором посте в Truth Social сравнил их с прежними страхами вокруг расследования о России и изменения климата. В третьем посте Трамп представил себя тем, кто «разоблачает» эту мистификацию, отвергая мысль о том, что роботы скоро будут «маршировать по нашим городам» и «избавляться от нас всех».

Гости Домфрис-хауса, возможно, в целом сходятся в оценке рисков, но обитатель Белого дома, судя по всему, — нет.