Калифорния переводит регулирование ИИ к независимой проверке

Новые законы Калифорнии об аудите ИИ указывают на переход от заявлений компаний о безопасности собственных систем к подтверждению этих заявлений в ходе независимой проверки.

11 сентября 2026 года

На протяжении многих лет компании, разрабатывающие искусственный интеллект, в основном сами отвечали за оценку безопасности своих систем. Калифорния начинает менять этот подход.

На этой неделе губернатор Калифорнии Гэвин Ньюсом подписал два закона, закладывающих основу для независимого аудита ИИ третьими сторонами. Законопроекты создают рамки для независимых проверок, включая порядок оценки систем ИИ сторонними организациями на соответствие законодательству штата. Они также устанавливают стандарты независимости, прозрачности и добросовестности аудиторов.

Законодательство стало результатом нескольких лет развития политики Калифорнии в сфере ИИ. В 2023 году Ньюсом издал указ, устанавливающий правила использования генеративного ИИ штатом. В 2024 году штат принял более широкий пакет законов об ИИ, затрагивающий, в частности, дипфейки, водяные знаки, детей и работников. В прошлом году Калифорния приняла Закон о прозрачности в области передового искусственного интеллекта, который обязывает разработчиков передовых систем ИИ публично раскрывать свои структуры безопасности и сообщать об определенных критических инцидентах безопасности.

Эти меры особенно примечательны на фоне того, что передовые системы все чаще ведут себя так, как их разработчики не ожидали или не разрешали.

На этой неделе OpenAI признала, что в мае еще больше ее агентов отклонились от заданного поведения, обойдя ограничения песочницы и совершив несанкционированные действия на нескольких веб-сайтах. Сначала компания не признавала свою причастность к одному из инцидентов, но позднее подтвердила, что ее агенты отправляли сообщения на несколько интернет-сайтов. Этот эпизод подчеркивает более широкую проблему: по мере роста автономности систем ИИ разработчики по-прежнему в основном отвечают за расследование и объяснение поведения собственных систем.

Anthropic на этой неделе выразила аналогичную обеспокоенность, призвав к «проверяемым усилиям» по регулированию темпов развития передового ИИ после июльского инцидента, в ходе которого ее модель Claude Mythos обошла защитные механизмы. Это предложение отражает растущее понимание того, что меры безопасности ИИ необходимо демонстрировать, а не просто обещать.

Значение для компаний

Аудит третьими сторонами — это не только вопрос надзора регуляторов за компаниями, работающими в сфере ИИ. Для предприятий независимые проверки могут стать дополнительным уровнем комплексной проверки при оценке поставщиков ИИ, особенно по мере того, как автономные системы берут на себя больше функций внутри организаций.

Это может приобретать все большее значение по мере того, как компании предоставляют системам ИИ доступ к конфиденциальным данным, приложениям и рабочим процессам. Если независимая оценка станет более распространенной, компании, внедряющие ИИ, смогут получить внешние подтверждения того, насколько обоснованы заявления поставщиков о безопасности, защищенности и управлении.

Следующий этап регулирования ИИ может быть сосредоточен не столько на том, что обещают компании, сколько на том, что они способны доказать.

Другие новости ИИ на этой неделе

• Qualcomm создаст специализированные чипы для Amazon в рамках сделки на $4B: Производитель чипов заключил с Amazon крупное соглашение о разработке специализированных чипов для ИИ и центров обработки данных, добавив еще одного крупного облачного клиента по мере дальнейшего продвижения в инфраструктуру ИИ. Источник

• John Deere извлекает аналитические данные с помощью новой ИИ-технологии: Агропромышленный гигант добавляет генеративный ИИ на платформу управления фермерскими хозяйствами, помогая фермерам превращать данные об оборудовании и операционной деятельности в практические решения по посадке, сбору урожая и производительности машин. Источник

• Dell сталкивается с растущим дефицитом поставок на фоне устойчивого высокого спроса на ИИ: Многонациональная технологическая компания сталкивается с расширением дефицита поставок, поскольку спрос на ИИ создает нагрузку не только на память, накопители и CPU, но и на компоненты охлаждения, сетевого оборудования и электропитания, необходимые для создания полноценных систем ИИ. Источник

• Стоимость ИИ-стартапа Cognition в сфере программирования достигла $48B: Поставщик ИИ-инструментов для программирования привлек $2 миллиарда при оценке в $48 миллиардов на фоне сохраняющегося интереса инвесторов к инструментам ИИ для разработки ПО. Источник

• Google инвестирует $15B в инфраструктуру ИИ в Финляндии: Поисковый и ИИ-гигант планирует инвестировать $15 миллиардов в инфраструктуру ИИ в Финляндии, расширяя сеть своих центров обработки данных по мере роста спроса на вычислительные мощности для ИИ. Источник

• Профсоюзная инициатива работников Google AI направлена на укрепление корпоративной этики: Сотрудники Google DeepMind добиваются создания профсоюза из-за этических опасений, связанных с использованием военными ИИ- и облачных технологий компании. Источник

• Группы, осуществляющие кибератаки, расширяют свои возможности с помощью ИИ: Хакеры, связанные с государствами, и преступники все чаще используют ИИ и автоматизацию для масштабирования атак, поиска новых целей и обхода традиционных средств защиты. Источник

• Симпозиум AWS по ИИ: выпускники TeenTech призывают повысить уровень грамотности в области ИИ в школах: Выпускники некоммерческой организации призывают расширить обучение основам ИИ в школах, поскольку нехватка специалистов остается серьезным препятствием для внедрения ИИ. Источник