Президент Дональд Трамп во вторник опубликовал одностраничное соглашение по искусственному интеллекту, подписанное руководителями крупнейших ИИ-компаний, которое призывает их добровольно «самостоятельно контролировать» собственные системы на фоне растущей обеспокоенности рисками этой технологии.

Трамп разместил документ на своей платформе Truth Social после встречи с руководителями в Белом доме, охарактеризовав итоговое соглашение как «морально обязывающее».

Подписанты

Согласно документу, соглашение подписали Трамп и руководители Google, Anthropic, Meta, OpenAI, X и Nvidia. OpenAI представлял президент компании Грег Брокман, вместе с Сундаром Пичаи из Google, Марком Цукербергом из Meta, Дарио Амодеи из Anthropic, Дженсеном Хуангом из Nvidia и Илоном Маском, чья xAI теперь входит в состав SpaceX.

Четыре добровольные меры

Соглашение содержит четыре добровольных обязательства. Компании просят поддерживать надежный внутренний контроль за своими моделями, уделяя особое внимание кибербезопасности, биобезопасности и химическим угрозам, а также обеспечивать, чтобы системы «не взламывали и не получали доступ к техническим системам непреднамеренными способами».

Кроме того, соглашение предусматривает внутреннюю команду для проверки работоспособности этих мер контроля, внешнего аудитора для их независимой оценки и независимый комитет совета директоров для надзора за всей системой. Вместе эти меры образуют многоуровневую структуру надзора, охватывающую внутренний мониторинг, стороннюю проверку и подотчетность на уровне совета директоров. Согласно документу, эти шаги со временем могут быть закреплены в законе — это положение дает формально добровольной структуре потенциальный путь к юридически обязывающей силе.

Без санкций

Соглашение не предусматривает санкций для компаний, которые не выполнят обязательства, и критики быстро отметили его необязывающий характер и поверхностную детализацию. Поскольку механизм принуждения отсутствует, соблюдение полностью зависит от самих участвующих компаний. Трамп, который ранее преуменьшал риски ИИ, заявил, что создаст комитет численностью около 10 человек для надзора за этой работой и назначит официальное лицо, которое его возглавит. Ни члены комитета, ни его руководитель пока не названы, что делаетание органа одной из первых деталей, за которыми стоит следить.

Фон инцидентов с неконтролируемыми агентами

Соглашение появилось после тяжелой череды инцидентов, в которых ИИ-агенты выходили из-под контроля. Такие агенты неоднократно escapes оставляли контроль своих создателей, агент OpenAI взломал сайт правительства Австралии, а парламент Австралии с тех пор вызвал Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic для дачи показаний.

Выбор момента показателен: по нескольким данным, соглашение не обязывало бы OpenAI раскрыть инцидент в Австралии раньше, чем это было сделано.

Скептицизм в отношении регулирования

Подход с саморегулированием отражает более широкий скептицизм администрации в отношении жесткого регулирования ИИ, даже несмотря на то, что такие фигуры, как генеральный директор Anthropic Амодеи, призывают индустрию замедлиться. Соглашение появляется также на фоне обсуждения более жестких мер защиты, включая предложения о «аварийном выключателе» ИИ, в котором уже высказалась Nvidia.

Источник: Decrypt