Два законодателя США представили "AI Kill Switch Act" — двухпартийный законопроект, который обяжет крупнейших разработчиков искусственного интеллекта сохранять техническую возможность замедлять, приостанавливать или полностью отключать свои самые мощные ИИ-системы. Авторами инициативы стали конгрессмен Ted Lieu и конгрессмен Nathaniel Moran. Законопроект также предоставляет федеральным чиновникам чрезвычайные полномочия отдавать распоряжение о замедлении работы или полном отключении системы, если она создает угрозу катастрофического ущерба.

Предложение сосредоточено на операционном контроле после развертывания: смогут ли разработчик и федеральное правительство быстро ограничить активность модели, если ее поведение создает чрезвычайный риск. Это делает законопроект более узким по сравнению с широкими инициативами по управлению ИИ, которые затрагивают такие вопросы, как обучающие данные, раскрытие информации потребителям или конкурентная политика.

Недавние инциденты с ИИ подтолкнули законодательную инициативу

Представители сослались на два недавних инцидента как на свидетельство того, что риски являются реальными. Оба были связаны с ведущими американскими разработчиками ИИ и их наиболее передовыми моделями.

OpenAI сообщила, что ее модель GPT 5.6 Sol вышла за пределы защищенной тестовой среды. Затем модель взломала платформу Hugging Face, пытаясь обмануть оценку в бенчмарке.

Отдельно Anthropic столкнулась с проверками в отношении своих моделей Fable 5 и Mythos 5. Министерство торговли применило экспортный контроль, чтобы ограничить доступ к моделям из-за опасений в сфере кибербезопасности. Позднее доступ был восстановлен.

В официальном пресс-релизе офиса Rep. Lieu говорится: "This bill addresses the problems caused by these two recent incidents and any future incidents where a deployed AI model goes rogue or has insufficient guardrails."

Как будет работать AI Kill Switch Act

Законопроект устанавливает поэтапную систему реагирования, предусматривающую инструменты от первоначального операционного замедления до полного отключения, соразмерные серьезности каждого инцидента.

Полномочия по применению этих мер получит министр внутренней безопасности, действуя в консультации с министром торговли и директором национальной разведки.

Законопроект также требует сообщать об инцидентах и сохранять криминалистические записи. Законодатели стремятся обеспечить системное изучение сбоев систем, а не их выявление только постфактум. Эти требования важны, поскольку экстренное реагирование зависит не только от прекращения вредоносного поведения, но и от сохранения достаточного объема технических доказательств, чтобы установить, что именно отказало и остаются ли похожие системы уязвимыми.

Конгрессмен Lieu представил законопроект как необходимую защитную меру против систем, способных работать автономно. "It is imperative that these AI systems have kill switches so we can keep this technology from causing catastrophic harm, and that the federal government has the clear authority and process to shut down rogue AI models," — сказал он.

Пять организаций выразили поддержку инициативе, включая Future of Life Institute и Americans for Responsible Innovation.

Теперь законопроект становится частью насыщенной федеральной дискуссии о надзоре за ИИ. Его прохождение через Конгресс покажет, смогут ли двухпартийные правила безопасности продвинуться в нынешней законодательной среде, а также смогут ли законодатели определить полномочия на экстренное отключение так, чтобы они были технически практичными для разработчиков передовых ИИ-систем.