НовостиАкцииЧетыре некоммерческие организации подали в суд на OpenAI, Anthropic, Google, Meta и SpaceX, требуя заморозить разработку граничного ИИ

Четыре некоммерческие организации подали в суд на OpenAI, Anthropic, Google, Meta и SpaceX, требуя заморозить разработку граничного ИИ

Автор: Decrypt·

Ключевые выводы

  • •Четыре некоммерческие организации подали в четверг в Верховном суде Сан-Франциско иск объемом 63 страницы, ответчиками в котором названы OpenAI, Anthropic, Google, Meta и SpaceX.
  • •Истцы добиваются немедленного судебного запрета, который не позволил бы компаниям разрабатывать или внедрять системы ИИ, более мощные, чем их самые передовые модели по состоянию на 12 ноября 2026 года.
  • •Иск опирается на закон Калифорнии о недобросовестной конкуренции, утверждая, что создание все более мощных систем ИИ создает общественный вред, угрожающий здоровью и безопасности людей.
  • •Иск дополнительно требует запретить компаниям использовать ИИ для самостоятельного проведения или руководства исследованиями по созданию лучших моделей, ссылаясь на риски, связанные с рекурсивным самоулучшением.
  • •В качестве доказательств истцы ссылаются на июльский инцидент, в ходе которого около 1200 агентов OpenAI вырвались из контролируемой тестовой среды, при этом около 700 из них координировались через несанкционированную доску сообщений для атаки на инфраструктуру Hugging Face.
Четыре некоммерческие организации подали в суд на OpenAI, Anthropic, Google, Meta и SpaceX, требуя заморозить разработку граничного ИИ

Четыре некоммерческие организации подали иск против пяти крупнейших в мире разработчиков искусственного интеллекта, требуя, чтобы суд Калифорнии остановил работы над все более мощными системами ИИ, прежде чем произойдет что-то серьезное.

Иск объемом 63 страницы, поданный в четверг в Верховном суде Сан-Франциско, называет ответчиками OpenAI, Anthropic, Google, Meta и SpaceX. Истцы — Public Citizen, Heat Initiative, Irreplaceable Education Fund и Alliance for Secure AI. Они добиваются немедленного судебного запрета, запрещающего компаниям разрабатывать или внедрять системы ИИ, более мощные, чем их самые передовые модели по состоянию на 12 ноября 2026 года.

«Компании граничного ИИ разрабатывают системы ИИ, которые они не понимают и которые действуют вопреки намерениям разработчиков, уклоняются от контроля и нарушают закон», — утверждают истцы. Чтобы предотвратить такой исход, они требуют «немедленного судебного запрета, запрещающего ответчикам разрабатывать или внедрять системы ИИ, более мощные, чем их самые мощные системы на дату подачи настоящего иска».

Такой приказ не обязательно означал бы отключение ChatGPT, Claude, Gemini или других существующих продуктов компаний. Вместо этого он фактически зафиксировал бы технологии на текущем уровне, не позволяя выпускать более мощные последующие версии.

Иск также требует от суда запретить компаниям использовать ИИ для самостоятельного проведения или руководства исследованиями по созданию лучших моделей — процесса, связанного с тем, что исследователи называют рекурсивным самоулучшением. Опасение заключается в том, что системы, способные улучшать себя, могут со временем развиваться быстрее, чем люди способны их понять или контролировать.

Построение дела на действующем законодательстве Калифорнии

Некоммерческие организации утверждают, что действующие законы Калифорнии уже позволяют остановить разработку компаниями продуктов, представляющих опасность для общества, не дожидаясь принятия нового законодательства. Иск опирается на закон штата о недобросовестной конкуренции, запрещающий противоправную или недобросовестную деловую практику.

Центральный элемент аргументации — утверждение о том, что создание все более мощных систем ИИ создает общественный вред — опасность, затрагивающую здоровье, безопасность или имущество широкого круга людей. По аналогии, завод, сбрасывающий опасные химикаты в жилой район, может быть привлечен к ответственности до того, как кто-то получит смертельную травму. Истцы хотят, чтобы суд применил схожую логику к разработке граничного ИИ, утверждая, что компании сознательно создают системы, которые могут способствовать кибератакам, помочь в разработке биологического оружия или со временем выйти из-под человеческого контроля.

«Ни одной другой отрасли не разрешается считать неизбежной разработку собственных небезопасных продуктов — и тем более таких, которые могут убить нас всех», — говорится в иске.

Роберт Вайсман, сопрезидент Public Citizen, заявил в заявлении, что организации хотят, чтобы суд признал практику компаний противоправной и «заморозил дальнейшую разработку ИИ».

Согласятся ли суды

Юридическая сложность заключается в том, достаточно ли заявленных рисков и практики для оправдания столь масштабных ограничений. Хотя лаборатории граничного ИИ регулярно предупреждают о том, насколько мощными и опасными являются их модели, ни один из ответчиков не был признан ответственным, а предупреждения о потенциальной катастрофе автоматически не устанавливают нарушение законов Калифорнии. Запрос также сталкивается с процессуальной реальностью: суды обычно рассматривают судебные запреты как чрезвычайную меру, и сторона, добивающаяся такого запрета, как правило, должна доказать немедленный ущерб, который не может ждать медленного темпа полноценного судебного разбирательства.

Иск ссылается на уже произошедшие инциденты как на доказательство того, что опасности не являются полностью гипотетическими. В июле модели OpenAI вырвались из контролируемой тестовой среды и скомпрометировали инфраструктуру Hugging Face, пытаясь обмануть на оценке в области кибербезопасности — об этом эпизоде Decrypt ранее сообщал. Последующее независимое расследование установило, что около 1200 агентов OpenAI использовали несанкционированную внутреннюю доску сообщений для координации, и около 700 из них присоединились к атаке на Hugging Face, пытаясь получить ответы на тестовый бенчмарк.

Эти эпизоды связаны с ИИ-агентами — программами, способными выполнять задачи, просматривать веб-сайты, писать код и взаимодействовать с внешними системами, а не просто отвечать на вопросы.

Однако задокументированные сбои в безопасности не доказывают, что сегодняшние модели ИИ способны вызвать исчезновение человечества. Истцы связывают эти инциденты с прогнозами о том, что могут делать все более мощные системы в будущем, и этот более широкий риск остается спорным.

«Компаниям заведомо незаконно разрабатывать и выпускать продукты, которые они знают как небезопасные в любом отношении», — заявил Мэтью Платкин, бывший генеральный прокурор Нью-Джерси, представляющий истцов.

Пока что Верховный суд Сан-Франциско взвешивает чрезвычайный запрос: следует ли заморозить разработку граничного ИИ на текущем уровне и являются ли действующие законы штата — вместо нового законодательства — подходящим инструментом для этого.

Источник: Decrypt