В пятницу генеральный прокурор Миннесоты Кит Эллисон подал судебный документ, выступая против попытки xAI заблокировать HF 1606 — первый в стране закон штата, ограничивающий ИИ-инструменты, генерирующие сексуализированные изображения узнаваемых людей, сообщает Decrypt.

Эллисон утверждал, что компании вряд ли удастся выиграть дело по конституционной претензии и что она не смогла показать, что применение закона нанесёт непоправимый ущерб.

«С помощью Grok Imagine X.AI создала беспрецедентный рынок цифрового сексуального насилия, и штат с самого начала был бы беззащитен, если бы не мог направить свои законы против самой технологии», — заявил Эллисон.

Позиция Миннесоты состоит в том, что Grok Imagine — это инструмент, а не защищаемая речь, что выводит его за рамки соображений, которые xAI просила судью рассмотреть. Федеральный судья проведёт слушание по этому вопросу в среду.

Закон Миннесоты направлен против провайдеров ИИ даже без осведомлённости и умысла

HF 1606 запрещает компании позволять пользователям генерировать реалистичные изображения с интимными частями тела, отсутствовавшими на исходной фотографии узнаваемого человека, а также создавать такое изображение по запросу пользователя. Нарушения караются штрафами до $500 000 за изображение, а изображённые лица могут подавать отдельные иски.

Закон не требует, чтобы компания знала об изображении или намеревалась его создать. Большинство законов о дипфейках, включая федеральный Take It Down Act, наказывают тех, кто создаёт или распространяет изображение. В 2025 году Техас обращался к операторам, но только когда владелец знал об отсутствии согласия или не реагировал на уведомление об удалении. Миннесота исключила элемент осведомлённости, и именно это положение xAI оспаривает в среду.

Палата представителей Миннесоты приняла законопроект со счётом 132-1, а Сенат — 65-0 после сообщений о мужчине, который использовал фотографии из социальных сетей для создания сексуализированных изображений более чем 80 знакомых ему женщин. Закон был подписан в апреле. xAI подала иск 27 июля и 29 июля ходатайствовала о временном запретительном предписании.

31 июля судья Донован Фрэнк отклонил ходатайство, указав, что компания обратилась в суд почти через три месяца после подписания закона и за три дня до его вступления в силу, что свидетельствует о том, что «ущерб не является неминуемым». Закон вступил в силу 1 августа.

xAI утверждает, что правила Миннесоты могут криминализировать сатиру и изображения, созданные по согласию

Иск не оспаривает интерес штата в предотвращении изображений, созданных без согласия. Вместо этого он утверждает, что закон далеко выходит за рамки этого интереса, а спор сводится к определению. По словам xAI, Миннесота основала своё определение интимной части тела на нормативном акте, предназначенном для преступлений, связанных с телесным контактом, и это определение охватывает внутреннюю поверхность бёдер и грудь, включая изображения в купальниках и сатиру.

На странице 19 документа содержится сгенерированное ИИ изображение, которое Трамп опубликовал в Truth Social 1 мая: на нём он изображён с Джей Ди Вэнсом, Марко Рубио и министром внутренних дел Дагом Бургемом без рубашек вместе с неустановленной женщиной в отражающем бассейне Мемориала Линкольна — шутка о стоимости ремонта бассейна. xAI утверждает, что грудь каждого мужчины изображена там, где её не было ранее, что делает это изображение незаконным в Миннесоте.

«Даже если субъекты дали согласие, создали изображения самостоятельно или никогда их не распространяли, для добросовестных усилий провайдера универсальных творческих ИИ-инструментов не предусмотрено безопасной гавани», — заявила компания.

По собственным расчётам xAI, десять таких изображений обошлись бы в $5 млн, а сто тысяч достигли бы $50 млрд.

Отчёт Grok о правоприменении подчёркивает масштаб проблемы злоупотреблений

Компания представила свою историю соблюдения требований как доказательство добросовестности. Как ранее сообщал Cryptopolitan, xAI заявила в июльском судебном документе, что в этом году приостановила 52 222 аккаунта и направила 73 604 отчёта в Национальный центр по вопросам пропавших и эксплуатируемых детей, что привело как минимум к 244 арестам в 2026 году.

Эти цифры также являются показателем масштаба. По данным Центра по противодействию цифровой ненависти, за 11 дней с 29 декабря по 8 января, после того как Маск одобрил функцию редактирования изображений в приложении, Grok создала около 3 миллионов сексуально откровенных изображений, включая около 23 000, в которых, по-видимому, были изображены дети.

Калифорния начала расследование 14 января и через два дня направила предписание о прекращении действий. 23 января тридцать пять генеральных прокуроров подписали совместное требование. По словам Эллисона, коллективный иск подали пять детей, а две семьи из Арканзаса обратились в федеральный суд.

Европейская комиссия начала расследование 27 января, а чат-бот запрещён в Малайзии и Индонезии.