Белый дом представил добровольное соглашение о безопасности, охарактеризованное как «морально обязательное», которое президент Дональд Трамп подписал вместе с руководителями крупнейших ИИ-компаний США, и эта инициатива вызвала раскол в Конгрессе относительно того, стоит ли её поддерживать.

Критика с Капитолийского холма отражает разочарование тем, что прежние добровольные меры безопасности оказались недостаточными, включая договорённость, достигнутую в июле 2023 года между президентом Джо Байденом и компаниями Amazon, Anthropic, Google, Meta, Microsoft и OpenAI.

Кто подписал сентябрьское добровольное соглашение по ИИ?

Согласно документу, опубликованному Трампом в Truth Social, президент подписал соглашение вместе с шестью корпоративными подписями: Сундар Пичаи из Google, Дарио Амодеи из Anthropic, Марк Цукерберг из Meta, Дженсен Хуанг из Nvidia, Грег Брокман из OpenAI и Илон Маск из X.

По данным Roll Call, спикер Майк Джонсон сообщил, что на встрече за ланчем подписанты приняли «Бел домское соглашение о суперинтеллекте». Издание сообщило, что в рамках «Совместных обязательств по ответственности на переднем крае» «каждая компания несёт ответственность за безопасную разработку собственных технологий».

Как сообщается, документ определяет четыре обязанности:

• Компании согласились осуществлять внутренний контроль и мониторинг своих моделей.
• Они согласились привлечь внешнюю фирму для независимой оценки.
• Независимый комитет совета директоров будет рассматривать отчёты внутренних аудитов и устранять выявленные проблемы.

Соглашение также гласит, что подписанты будут «регулярно встречаться для выработки стандартов и лучших практик», а в тексте признаётся, что «со временем может иметь смысл закрепить эти шаги в законах или нормативных ак». Могут ли такие обязательства заменить подлежащие исполнению правила — именно этот вопрос сегодня разделяет Конгресс.

Трамп: «Я считаю, это морально обязательно»

Отвечая на вопрос о соглашении, Трамп сказал: «Я считаю, это морально обязательно». По своему обыкновению президент прибег к более масштабному сравнению: «В каком-то смысле это почти как конституция».

Трамп вновь подтвердил курс на то, чтобы отрасль сама себя контролировала, заявив: «Я вижу огромный самоконтроль, и они понимают, что должны сами себя контролировать». Отвечая, почему он предпочитает такое решение, он добавил, что «на кону их компании».

Трамп также вернулся к своему опросу выходного дня о переименовании искусственного интеллекта в «Суперинтеллект», заявив, что подпишет соответствующий указ. Он также объявил о планах создать комитет из 10 человек, который поможет ему в ближайшие дни назвать «ИИ-царя». Назначение «царя» — ближайший по сроку шаг, за которым стоит следить; указ пока не имеет заявленных сроков.

Конгресс не поддерживает соглашение по ИИ

Далеко не все на Капитолийском холме одобрили формат встречи, из которой исключили законодателей, и масштаб договора, который, по их мнению, не отвечает срочности ситуации, обострившейся после предупреждения Джейкоба Коксона, бывшего исследователя OpenAI и Anthropic, о том, что ИИ «может убить нас всех к концу десятилетия».

OpenAI, Anthropic и Meta все сообщали о случаях, когда вышедшие из-под контроля модели исследовали системы, к которым они не имели права доступа, включая федеральные базы данных.

В заявлении после встречи демократический сенатор от Виргинии Марк Уорнер сказал, что сами компании предупреждают: технологии опережают меры безопасности. «Ответ президента? Переименовать её и велеть компаниям-разработчикам самим себя регулировать», — сказал Уорнер.

Уорнер уже пытался провести законопроект во вторник. В Сенате он добивался единогласного согласия — ускоренной процедуры, которую может заблокировать возражение одного сенатора, — на создание Совета по безопасности ИИ в составе Министерства торговли, который мог бы устанавливать обязательные стандарты, требовать доступ к новым передовым моделям не менее чем за 45 дней до релиза и запрашивать отчёты об инцидентах в течение 30 дней, либо 72 часов при непосредственных угрозах национальной безопасности. Ни одно из перечисленных в соглашении обязательств не предусматривает сопоставимого доступа до релиза или фиксированных сроков отчётности.

Председатель комитета по торговле Тед Круз от Техаса возразил, и законопроект застопорился. Сенатор Брайан Шац, демократ от Гавайев и соавтор документа, усомнился, что компании, «мчащиеся к крупнейшим IPO в истории человечества», станут добровольно себя сдерживать.

Недовольство ограничилось не только демократами: республиканец от Миссури Джош Хоули написал в колонке для Washington Post, что передовые модели должны проходить обязательное тестирование перед развёртыванием. Джонсон со своей стороны пообещал, что Конгресс будет «крепко держать рули», но не обязался принимать какое-либо законодательство.

Вердикт Уорнера сегодня мало отличается от прежнего: эти обязательства были «шагом в правильном направлении», сказал он в 2023 году, «но нам нужно больше, чем отраслевые обещ».