Prokurator generalny Minnesoty Keith Ellison złożył w piątek pismo sprzeciwiające się próbie zablokowania przez xAI ustawy HF 1606 — pierwszej w kraju ustawie tego stanu ograniczającej narzędzia AI generujące seksualne wizerunki rozpoznawalnych osób, donosi Decrypt.

Według Ellisona spółce raczej nie uda się wygrać sporu na gruncie konstytucyjnym, a ponadto nie wykazała ona, że egzekwowanie ustawy spowodowałoby szkodę nieodwracalną.

„Dzięki Grok Imagine X.AI stworzyła bezkonkurencyjny rynek cyfrowej przemocy seksualnej, a stan byłby od początku bezbronny, gdyby nie mógł skierować swoich przepisów przeciwko samej technologii” — oświadczył Ellison.

Argument Minnesoty polega na tym, że Grok Imagine jest narzędziem, a nie chronioną wypowiedzią, co wyłączyłoby go z rozważań, które xAI przedstawiła sędziemu do zbadania. W sprawie tej w środę odbędzie się rozprawa przed sędzią federalnym.

Ustawa Minnesoty wymierza w dostawców AI nawet bez wiedzy i zamiaru

HF 1606 zakazuje firmie umożliwiania użytkownikom generowania realistycznych obrazów przedstawiających intymne części ciała, których nie było na oryginalnym zdjęciu rozpoznawalnej osoby, a także tworzenia takiego obrazu w imieniu użytkownika. Za naruszenia grożą kary do 500 000 dolarów za każdy obraz, a osoby przedstawione mogą dochodzić roszczeń niezależnie.

Ustawa nie wymaga, aby firma wiedziała o obrazie lub miała zamiar jego stworzenia. Większość przepisów dotyczących deepfake’ów, w tym federalna ustawa Take It Down Act, karze tego, kto tworzy lub rozpowszechnia obraz. Teksas w 2025 roku kontaktował się z operatorami, ale tylko wtedy, gdy właściciel wiedział o braku zgody albo nie odpowiedział na wezwanie do usunięcia treści. Minnesota zniosła wymóg wiedzy i to właśnie ten przepis będzie w środę kwestionowany przez xAI.

Izba Reprezentantów Minnesoty przyjęła projekt ustawy głosami 132-1, a Senat 65-0, po doniesieniach o mężczyźnie, który wykorzystał zdjęcia z mediów społecznościowych do stworzenia seksualnych wizerunków ponad 80 znanych mu kobiet. Ustawa została podpisana w kwietniu. xAI zaskarżyła ją 27 lipca, a 29 lipca wniosła o wydanie tymczasowego nakazu.

31 lipca sędzia Donovan Frank odrzucił wniosek, wskazując, że spółka złożyła skargę niemal trzy miesiące po podpisaniu ustawy i trzy dni przed dniem jej wejścia w życie, co oznacza, że „szkoda nie jest bezpośrednia”. Ustawa weszła w życie 1 sierpnia.

xAI twierdzi, że przepisy Minnesoty mogą kryminalizować satyrę i obrazy tworzone za zgodą

Skarga nie kwestionuje interesu stanu w zapobieganiu wizerunkom tworzonym bez zgody. Zamiast tego argumentuje, że ustawa wykracza daleko poza ten interes, a spór rozstrzyga się na kwestii definicji. Według xAI Minnesota oparła swoją definicję części intymnej na przepisie przeznaczonym dla przestępstw obejmujących kontakt fizyczny, a definicja ta obejmuje wewnętrzną stronę ud i piersi, wciągając w zakres ustawy zdjęcia w strojach kąpielowych oraz satyrę.

Na stronie 19 dokumentu znajduje się wygenerowane przez AI zdjęcie, które Trump opublikował 1 maja w serwisie Truth Social, przedstawiające go wraz z JD Vance’em, Marco Rubio i ministrem spraw wewnętrznych Doug Burgumem bez koszul, a także niezidentyfikowaną kobietę, w basenie odbicia Pomnika Lincolna — żart nawiązujący do kosztów remontu basenu. Według xAI piersi każdego z mężczyzn zostały pokazane tam, gdzie wcześniej ich nie było, co czyni ten obraz niezgodnym z prawem w Minnesocie.

„Nawet jeśli osoby przedstawione wyraziły zgodę, same wygenerowały obrazy albo nigdy ich nie udostępniły, nie istnieje bezpieczna przystań dla działań w dobrej wierze podejmowanych przez dostawcę ogólnoprzeznaczonych kreatywnych narzędzi AI” — oświadczyła spółka.

Według własnych obliczeń xAI dziesięć takich obrazów kosztowałoby 5 milionów dolarów, a sto tysięcy sięgnęłoby 50 miliardów dolarów.

Dane o egzekwowaniu zasad przez Groka uwypuklają skalę problemu nadużyć

Spółka przedstawiła swój rejestr działań zgodnych z przepisami jako dowód dobrej wiary. Jak wcześniej donosił Cryptopolitan, xAI w lipcowym piśmie podała, że w tym roku zawiesiła 52 222 konta i przesłała 73 604 zgłoszenia do National Center for Missing and Exploited Children, co przełożyło się na co najmniej 244 aresztowania w 2026 roku.

Te liczby są również miarą skali zjawiska. Według Center for Countering Digital Hate w 11-dniowym okresie od 29 grudnia do 8 stycznia, po poparciu, jakim Musk obdarzył funkcje edycyjne aplikacji, Grok stworzył około 3 milionów obrazów o charakterze seksualnym, w tym około 23 000, na których — jak się wydawało — przedstawione były dzieci.

Kalifornia wszczęła śledztwo 14 stycznia i dwa dni później wysłała wezwanie do zaprzestania praktyk. Trzydziestu pięciu prokuratorów generalnych podpisało 23 stycznia wspólne żądanie. Według Ellisona pozew zbiorowy wniosło pięcioro dzieci, a dwie rodziny z Arkansasy złożyły skargę do sądu federalnego.

Komisja Europejska wszczęła śledztwo 27 stycznia, a chatbot został zablokowany w Malezji i Indonezji.