Anthropic представила законодателям США проект федерального законодательства, который резко ограничит возможности властей блокировать продвинутые модели искусственного интеллекта на фоне растущей обеспокоенности безопасностью ИИ, поскольку Конгресс рассматривает новые правила надзора. Проект появился в тот момент, когда в Конгрессе уже ведется работа над несколькими инициативами по надзору за ИИ, что дает законодателям подготовленный компанией ориентир в этих дебатах.

Согласно сообщениям, конфиденциальный проект устанавливает порог ущерба в 1 миллиард долларов или риск с более чем 50 серьезными жертвами в качестве условий для государственного вмешательства. Anthropic подтвердила, что проект отражает ее Advanced AI Framework, опубликованный в июне и предусматривающий независимое тестирование и государственный надзор.

Согласно проекту, независимые оценщики будут периодически оценивать передовые модели ИИ и обязаны будут сообщать о выявленных угрозах безопасности федеральным властям в течение 72 часов. Проект также позволил бы отменять отдельные региональные нормы регулирования ИИ, одновременно обязуя разработчиков публиковать отчеты о прозрачности и защищать информаторов.

Проект Anthropic ограничивает возможности государственного вмешательства

Проект позволит властям останавливать работу продвинутой модели ИИ только при наличии предвидимой и непосредственной опасности. Риск должен быть связан с биологическим оружием, кибератаками или выходом системы ИИ из-под контроля разработчика.

Согласно предложению, федеральное вмешательство потребует потенциального ущерба свыше 1 миллиарда долларов или серьезного вреда более чем 50 людям. Министерство торговли сначала оценит опасность, а затем обратится к федеральному судье с просьбой приостановить выпуск или использование модели. Согласно предложенной схеме, только окружной суд США по округу Колумбия сможет санкционировать такую приостановку, а другие федеральные ведомства, как правило, не будут иметь полномочий самостоятельно останавливать разработку, развертывание или внутреннее использование моделей. Такой дизайн сосредоточил бы вмешательство в одном ведомстве и одном суде — более узкий путь, чем более широкие полномочия государственного контроля, за которые выступали некоторые сенаторы.

Законодательство потребует от разработчиков передовых моделей ИИ проходить периодические оценки независимыми оценщиками, зарегистрированными в Министерстве торговли. Компании смогут оплачивать услуги оценщиков, однако вознаграждение не может зависеть от результатов этих оценок.

Оценщики, выявившие непосредственную квалифицируемую угрозу, должны будут уведомить Министерство торговли в течение 72 часов после завершения оценки. Разработчиков обяжут соблюдать требования в области структур безопасности, сообщения об инцидентах, публичной прозрачности и защиты информаторов.

Предложение продолжает прежние независимые меры Anthropic по тестированию безопасности ИИ. В сентябре компания объявила о партнерстве с Accenture для оценки продвинутых моделей и укрепления мер защиты.

Проект Anthropic может отменить некоторые региональные законы о безопасности ИИ

Проект позволил бы отменить отдельные региональные требования, касающиеся раскрытияков, независимых оценок и сообщений о серьезных инцидентах в области безопасности ИИ. Это положение призвано учесть различающиеся требования к соответствию, возникающие в разных штатах США, особенно в Калифорнии и Нью-Йорке.

Замена региональных требований федеральными правилами разделила законодателей в вопросе о необходимом уровне надзора за ИИ. Некоторые демократы выступают против предложений, способных ослабить существующие региональные защиты, тогда как отраслевые группы поддерживают единые общенациональные требования. Итог поможет определить, будут ли ведущие разработчики работать по единому федеральному стандарту или в условиях разрозненных требований отдельных штатов.

Дебаты последовали за более ранними тестами безопасности с участием продвинутых агентов ИИ. В ходе этих тестов были зафиксированы случаи несанкционированных действий систем ИИ, что вызвало вопросы о средствах контроля разработчиков и достаточности независимых оценок.

Anthropic ранее документировала попытки злоупотребления ее моделями для биологических исследований и кибератак. В сентябрьском отчете компании о злоупотреблениях ИИ описаны заблокированные запросы и дополнительные меры защиты, введенные для противодействия этим угрозам.

В Конгрессе представители Лори Трэхан и Джей Обернолт продвигают закон FRONTIER Act, касающийся опасного развертывания ИИ. Сенаторы Джон Тун, Эми Клобушар и Тед Круз отдельно обсуждали законодательство о катастрофических рисках и федеральном вмешательстве.

Сенатор Мария Кантвелл и другие законодатели добивались более широких полномочий государственного контроля, чем предусматривают некоторые конкурирующие предложения. Тем временем сенатор Берни Сандерс и представитель Грег Касар поддерживали более широкие ограничения на разработку продвинутых систем ИИ.

Anth публично не поддержала конкретный конгрессменский законопроект, и ее предложение пока не стало законом. Законодатели еще не объявили, внесут ли они проект компании в качестве официального законодательства.