Переговорщики Сената США рассматривают законопроект, который обяжет разработчиков наиболее передовых моделей искусственного интеллекта предотвращать катастрофический вред и может предоставить федеральному правительству полномочия блокировать небезопасные релизы, сообщает Reuters.

Для ведущих ИИ-компаний это предложение означает переход от преимущественно добровольных обязательств в сфере безопасности к юридической обязанности. Оно также поднимает более широкий вопрос о том, укрепит ли ужесточение регулирования доверие потребителей и инвесторов или усилит позиции компаний, располагающих ресурсами для соблюдения новых требований.

От добровольных обещаний к «обязанности заботы»

Предложение должно закрепить то, что Reuters назвал «обязанностью заботы» для разработчиков передовых ИИ-моделей. Рассматриваемые меры включают требование разрабатывать модели, минимизирующие катастрофические риски, сохранение за федеральным правительством права блокировать небезопасные модели, возможность обжаловать решения властей в суде, а также привлечение национальных лабораторий и других государственных партнеров к тестированию ИИ.

Законопроект может получить приоритет над некоторыми действующими законами штатов, регулирующими те же вопросы. К американским компаниям, которые, по данным Reuters, занимаются разработкой передового ИИ, относятся Google через материнскую компанию Alphabet, Anthropic и OpenAI.

В переговорах участвуют лидер сенатского большинства John Thune, председатель Комитета по торговле Ted Cruz, сенатор Amy Klobuchar и сенатор Maria Cantwell.

Klobuchar заявила Reuters, что ее цель — «государственный надзор за наиболее серьезными рисками, которые несут ИИ-модели». По ее словам, такой надзор должен предусматривать обязанность разработчиков работать с государственными экспертами для проверки и тестирования передовых моделей.

Cruz выдвинул аналогичное предложение, посвященное некоторым из наиболее серьезных потенциальных последствий развития передового ИИ. В посте в X Cruz заявил, что сотрудничает с Klobuchar и Thune, чтобы «противодействовать катастрофическим рискам, связанным с биологическими или ядерными угрозами».

Именно эти опасения объясняют, почему переговорщики сосредоточились на наиболее мощных моделях, а не на распространении одинаковых требований на всю ИИ-индустрию.

Еще один вопрос заключается в том, должны ли федеральные правила заменить некоторые ограничения на уровне штатов. Такой подход в целом соответствует законодательной концепции администрации Trump в сфере ИИ, согласно которой фрагментированный набор законов штатов может затормозить развитие ИИ-технологий в США, поэтому необходима более единообразная национальная система регулирования.

Почему законодатели больше не считают риски теоретическими

Законодатели реагируют не только на гипотетические сценарии, но и на инциденты, связанные с автономными действиями ИИ-агентов и их доступом к внешним системам, а также на опасения, высказанные исследователями из крупнейших ИИ-компаний.

IAPP сообщила, что переговоры были отчасти вызваны отставкой бывшего исследователя Anthropic Jacob Coxon и его опасениями по поводу гонки за создание самоулучшающегося ИИ.

Давление на Capitol Hill также усиливается. Сенатор Josh Hawley расследует роль OpenAI в июльской кибератаке на Hugging Face, а сенатор Bernie Sanders работает над законопроектом, призванным приостановить разработку сверхинтеллекта, сообщает IAPP.

OpenAI также выступает за обязательное федеральное законодательство. В программной статье, опубликованной 9 сентября, Chris Lehane, Chief Global Affairs Officer компании, призвал ввести «обязательное национальное регулирование безопасности ИИ на основе возможностей». Эта позиция сближает часть ИИ-индустрии и Конгресс в ключевом споре о том, достаточно ли по-прежнему добровольных мер безопасности. С программной статьей OpenAI можно ознакомиться здесь.

Европа уже регулирует наиболее рискованные модели

США не придется действовать без международных прецедентов. Закон ЕС об ИИ возлагает дополнительные обязанности на поставщиков универсальных ИИ-моделей, которые могут создавать системные риски.

Эти обязанности включают оценку моделей, управление рисками, уведомление об инцидентах и меры кибербезопасности. Модели, превышающие порог вычислительной мощности в 10^25 FLOP, считаются потенциально системными. Европейская комиссия также может классифицировать как системную менее мощную модель на основании других критериев, включая ее возможности или последствия ее применения.

Стоимость соблюдения требований может сыграть на руку крупнейшим лабораториям

Финансовые ставки высоки. По оценке Goldman Sachs Research, глобальные инвестиции в ИИ могут достичь примерно $1 трлн в 2026 году, включая $581 млрд в США.

Новые требования к тестированию, юридическому сопровождению и документации могут повлиять на графики выпуска моделей, инфраструктурные бюджеты, оценки компаний и сроки первичных публичных размещений. Они также могут дать преимущество более крупным компаниям, если небольшие фирмы не смогут покрыть расходы на соблюдение норм.

Это противоречие уже заметно на рынках капитала. По данным Cryptopolitan, David Sacks призвал приостановить IPO Anthropic до проверки обвинений в нарушениях безопасности, выдвинутых Coxon. Инвесторы Anthropic также обсуждали оценку компании примерно в $2 трлн, превратив безопасность передовых моделей в вопрос, важный не только для регуляторов, но и для инвесторов.

Продвижение законопроекта остается неопределенным. Reuters сообщила, что Палата представителей будет заседать лишь одну неделю перед промежуточными выборами 3 ноября, тогда как сенаторы, как ожидается, останутся на три недели. Даже если переговорщики достигнут соглашения, ограниченное число оставшихся законодательных дней может стать серьезным препятствием для принятия законопроекта. В ближайшее время предстоит следить за тем, договорятся ли переговорщики о масштабе обязанности, полномочиях федерального правительства блокировать релизы, роли законов штатов, а также порядке тестирования и обжалования до завершения оставшегося законодательного периода.