Отставка исследователя из одной из самых известных в мире компаний в сфере искусственного интеллекта, за которой последовали предупреждения о том, что эта технология может уничтожить человечество в течение десятилетия, по-видимому, ускорила действия Конгресса в области безопасности ИИ.

Отставка Джейкоба Коксона из Anthropic 8 сентября 2026 года придала импульс разработке обязательных федеральных правил после многих лет научных публикаций и обсуждений на конференциях, которые дали ограниченный результат. За последующие дни более 20 членов Конгресса публично призвали усилить надзор. Одновременно двухпартийная группа сенаторов продвигает законопроект, который введет юридическую «обязанность проявлять должную заботу» для разработчиков мощных моделей ИИ. Предложение переведет ключевые меры безопасности из добровольных обязательств компаний в требования, подкрепленные законом.

Законопроект и его сторонники

Сенаторы Эми Клобушар, Джон Тьюн и Тед Круз возглавляют эту инициативу. Их законопроект превратит добровольные обязательства по обеспечению безопасности, которые брали на себя компании в сфере ИИ, в требования, имеющие обязательную юридическую силу.

Ключевые положения законопроекта предусматривают обязательное тестирование перед выпуском передовых систем ИИ. Он также потребует проведения независимых аудитов третьими сторонами и стандартизированной отчетности разработчиков. Кроме того, предложение наделит правительство полномочиями вмешиваться и блокировать выпуск моделей ИИ, признанных опасными. Эти положения сделают тестирование, внешнюю проверку и раскрытие информации центральными условиями выпуска наиболее мощных систем.

Согласно предлагаемым правилам, компании, разрабатывающие передовые модели ИИ, будут нести формальную обязанность проявлять должную заботу. Они могут столкнуться с юридическими последствиями, если их системы причинят вред, а компании не примут разумных мер предосторожности.

OpenAI публично поддержала обязательные национальные стандарты безопасности и надежные протоколы тестирования. Эта позиция примечательна, поскольку предложенные требования будут напрямую распространяться на компанию.

Опасения, определяющие ход дискуссии

Эван Хубингер, еще один исследователь Anthropic, публично оценил вероятность вызванного ИИ события, способного привести к вымиранию человечества, более чем в 10% в течение следующего десятилетия.

Anthropic также опубликовала отчет об угрозах, в котором поставила под сомнение безопасность некоторых своих новых моделей ИИ, особенно с учетом их потенциальной способности содействовать разработке биологического оружия.

Законодательные препятствия

Несколько законодателей предупредили, что разработать технически обоснованные правила будет сложно для технологии, которая развивается быстрее, чем Конгресс может назначать слушания. Ноябрьские промежуточные выборы создают дополнительное осложнение. Некоторые члены Конгресса могут не захотеть голосовать за технически сложную нормативную базу, одновременно ведя кампанию за переизбрание.

Следующий этап дискуссии будет сосредоточен на том, смогут ли законодатели определить работоспособные стандарты тестирования, аудита, отчетности и вмешательства до того, как график выборов ограничит дальнейшие действия. Пока эти детали не урегулированы, предложение остается попыткой установить обязательные федеральные требования безопасности, а не действующей нормативной базой.

Источник: CryptoBriefing