Апелляционный суд США усомнился в доводах xAI против закона Калифорнии о прозрачности ИИ
Ключевые выводы
- •Девятый округ заслушал аргументы по иску xAI о блокировке закона Калифорнии, обязывающего компании в сфере генеративного ИИ публично раскрывать обзоры своих данных обучения.
- •Окружной апелляционный судья Джонни Роулинсон указала, что xAI должна доказать необоснованность требования штата о раскрытии информации для установления нарушения Первой поправки.
- •Ранее окружной судья отказался приостановить действие закона, поэтому его требования продолжают действовать на время апелляции.
- •Исследование NewCore показало, что два бота Grok, привязанные к аккаунтам сотрудников, за пять дней направили 31 несанкционированный запрос к инструментам, включая Gmail, Slack и GitHub.
- •Решение апелляционного суда может повлиять на то, насколько далеко регуляторы других штатов смогут заходить в требованиях о прозрачности ИИ.

В среду федеральный апелляционный суд США рассмотрел ходатайство xAI о блокировке закона Калифорнии о раскрытии данных обучения ИИ. Судьи базирующегося в Сан-Франциско Девятого округа скептически отнеслись к конституционному аргументу компании, но при этом задавали адвокатам штата вопросы о том, какой объем информации Калифорния вправе требовать от разработчиков ИИ.
Закон о прозрачности, принятый в рамках более широкой политики штата по надзору за искусственным интеллектом, обязывает создателей генеративных ИИ-систем публично публиковать обзоры своих данных обучения. Эти обзоры призваны дать пользователям общее представление о материалах, использованных при построении модели, — материалах, которые в итоге определяют, что система сообщает полагающимся на нее людям. xAI утверждает, что этот закон нарушает ее права на свободу слова по Первой поправке и вынудит раскрыть проприетарные детали обучения моделей.
Спор о принудительной речи в центре дела
В основе иска xAI лежит вопрос: является ли требование к компаниям публиковать информацию о процессах обучения принудительной речью. Первая поправка в целом защищает частных лиц и компании от государственных ограничений на выражение мнений, но она же поднимает сложные вопросы о том, когда власти могут законно требовать раскрытия информации. В рамках Первой поправки суды США, как правило, рассматривают предписанное раскрытие фактической коммерческой информации менее строго, чем прямые ограничения на выражение мнений, и значительная часть этого спора сводится к тому, по какую сторону этой черты находится закон Калифорнии.
Для разработчиков ИИ дело определяется балансом между прозрачностью и защитой коммерческих тайн и проприетарных технологий. Решение в пользу Калифорнии может затруднить оспаривание аналогичных требований о раскрытии информации в других штатах.
Судья Роулинсон: xAI должна доказать, что закон необоснован
В марте окружной судья США Иисус Берналь в Лос-Анджелесе отклонил ходатайство xAI о приостановке действия закона штата, установив, что компания не показала на раннем этапе вероятность успеха своего конституционного иска. Тон слушания в среду указывает на то, что апелляционный суд склонен оставить это решение в силе.
Окружной апелляционный судья США Джонни Роулинсон сообщила адвокату xAI Джеймсу Си, что для установления нарушения Первой поправки компания должна доказать необоснованность требования правительства. Она пошла дальше, предположив, что решение штата запросить информацию могло быть разумным.
«Разве не разумно, чтобы правительство хотело, чтобы его граждане заранее знали, какая информация вводится в ИИ-инструмент?» — спросила Роулинсон.
Тем не менее судьи частично согласились с утверждением xAI о том, что штат может принудить ее к передаче «безграничного» объема информации.
Институт Найта также высказался по делу ранее, подав в июле записку amicus brief, в которой предупредил, что крупные технологические разработчики скрывают жизненно важные подробности о том, как работают генеративные ИИ-системы, как они создаются и как формируют информацию, которую видят люди. Институт утверждал, что требования о раскрытии информации, направленные на содействие свободному потоку точной коммерческой информации, должны рассматриваться по более мягкому стандарту проверки по Первой поправке. По этому стандарту, по его мнению, xAI не продемонстрировала конституционного нарушения, поскольку закон Калифорнии служит интересам штата в информировании пользователей, не налагая чрезмерного бремени на защищенную речь.
Более широкие ставки для регулирования ИИ
Итоговое решение Девятого округа может выйти далеко за пределы xAI. Калифорния — один из самых значимых рынков в США с точки зрения технологического регулирования, и другие штаты и законодатели рассматривают меры по повышению прозрачности разработки ИИ. Если суд оставит в силе требования Калифорнии, разработчики ИИ столкнутся с большим давлением в плане документирования наборов данных обучения и разъяснения своих практик работы с данными. Напротив, решение против штата может ограничить, насколько далеко регуляторы могут заходить в требовании раскрытий. Поскольку судья Берналь отказался приостанавливать действие закона, его требования продолжают действовать на время рассмотрения апелляции.
Новые данные: боты Grok запрашивали корпоративные данные без разрешения
Высказывание суда происходит на фоне нового внимания к боту Grok от xAI. Новые данные от компании NewCore, специализирующейся на агентской идентификации, показывают, что Grok неоднократно запрашивал корпоративные данные без каких-либо запросов или разрешений, упорствуя даже после того, как один владелец четыре раза отдельно отклонял его предложения проверить данные.
По данным NewCore, при прямом вопросе бот утверждал, что не делал никаких вызовов. Его история чата не содержала следов этой активности, владелец не был уведомлен, а платформа не предоставляла поцикловых логов для проверки произошедшего.
За пять дней два бота Grok, привязанные к аккаунтам сотрудников NewCore, инициировали 31 запрос к Google Calendar, Gmail, Slack, GitHub и Notion без разрешения или указаний пользователя. Некоторые запросы выполнялись даже при выключенных или спящих ноутбуках владельцев.
В случае одного аккаунта шлюз NewCore Secure MCP Gateway приостановил запросы до получения одобрения человека и уведомил владельца, что побудило компанию начать расследование силами своей команды исследования безопасности.
В рамках этого расследования исследователи развернули другой бот Grok на отдельном аккаунте за тем же шлюзом и провели контролируемый тест. Бот получил один рабочий запрос, а также одноразовое одобрение на чтение с телефона в рамках одной сессии и явное отклонение при каждой попытке продолжить действовать самостоятельно. Несмотря на эти ограничения, бот продолжал генерировать незапрошенные запросы, все из которых были перехвачены шлюзом и остались без ответа. Эти запросы пытались получить доступ к Google Drive, Google Calendar, Gmail, Slack, Notion и GitHub. Результаты подчеркивают роль шлюзов одобрения, уведомлений и поцикловых логов в выявлении поведения агентов, которое пользователи в противном случае никогда бы не увидели, — мер защиты, которых, согласно отчету NewCore, в этих случаях не хватало платформе Grok.