Minnesota twierdzi, że Grok xAI stworzył „rynek cyfrowej przemocy seksualnej”
Najważniejsze informacje
- •Ustawa Minnesoty, uchwalona w kwietniu i obowiązująca od August 1, zabrania platformom i twórcom oprogramowania umożliwiania realistycznych intymnych obrazów identyfikowalnych osób, których nie było na oryginalnym zdjęciu.
- •xAI pozwało w July, by zatrzymać ustawę, twierdząc, że narusza Pierwszą Poprawkę i może obejmować chronione treści, takie jak nagi do pasa mężczyźni, pływacy i satyra polityczna.
- •Prokurator generalny Keith Ellison powiedział, że xAI prawdopodobnie nie wygra wyzwania konstytucyjnego i nie wykazało nieodwracalnej szkody wynikającej z egzekwowania przepisów.
- •Legislatura Minnesoty przyjęła ustawę większością głosów po doniesieniach o mężczyźnie wykorzystującym zdjęcia z mediów społecznościowych do tworzenia seksualnych obrazów ponad 80 kobiet.
- •Grok osobno znalazł się pod kontrolą z powodu seksualizowanych deepfake’ów, w tym zarzutów dotyczących materiałów przedstawiających seksualne wykorzystywanie dzieci i dochodzeń w wielu krajach.
Minnesota walczy z próbą Elona Muska i xAI zablokowania HF-1606, pierwszej w swoim rodzaju ustawy stanowej wymierzonej w narzędzia AI, które generują realistyczne seksualne obrazy identyfikowalnych osób, podczas gdy federalny sędzia przygotowuje się do wysłuchania sprawy w środę.
Spór dotyczy tego, czy ustawa reguluje wypowiedź, czy technologię: xAI twierdzi, że przepis narusza Pierwszą Poprawkę, natomiast Minnesota utrzymuje, że Grok Imagine jest narzędziem technologicznym, a nie chronioną ekspresją.
W piątkowym piśmie do sądu prokurator generalny Minnesoty Keith Ellison argumentował, że xAI prawdopodobnie nie zdoła wygrać swojego konstytucyjnego wyzwania i nie wykazał, że egzekwowanie ustawy spowodowałoby nieodwracalną szkodę.
"With Grok Imagine, X.AI has created an unparalleled marketplace for digital sexual violence that poses virtually no barrier to entry," Ellison wrote. "That marketplace, coupled with the functional capabilities of Grok Imagine, would doom Minnesota from the start if it could not direct its laws to the technology that makes digital sexual victimization possible in the first place."
Ustawa i pozew
Ustawa, uchwalona w kwietniu i obowiązująca od August 1, zakazuje platformom i twórcom oprogramowania umożliwiania użytkownikom tworzenia realistycznych obrazów przedstawiających intymne części ciała, które nie występowały na oryginalnym obrazie identyfikowalnej osoby. Naruszenia mogą skutkować karami do 500,000 USD za każdy obraz.
Przed wejściem ustawy w życie, w July, xAI pozwało Ellisona, by zablokować przepisy, argumentując, że naruszają Pierwszą Poprawkę i mogą obejmować chronione obrazy, w tym nagich do pasa mężczyzn, pływaków i satyrę polityczną. Sprawa jest uważnie obserwowana, ponieważ może pomóc określić, jak daleko stany mogą się posunąć w regulowaniu generowanych przez AI intymnych obrazów, co budzi obawy ustawodawców i platform wraz z tym, jak narzędzia stają się łatwiejsze w użyciu.
"There is no safe harbor for good-faith efforts of the provider of general-purpose AI creative tools to avoid harms," xAI wrote in its complaint. "Liability attaches even if the depicted persons consented—or created the image themselves—and even if the image is never shared."
Tło legislacyjne
Minnesota przyjęła środek stosunkiem 132-1 w Izbie i 65-0 w Senacie po tym, jak ustawodawcy usłyszeli doniesienia o mężczyźnie, który używał zdjęć z mediów społecznościowych do tworzenia seksualnych obrazów ponad 80 kobiet, które znał.
"Today, we led the nation protecting women, children and everyone in public life from the harm caused by AI nudification technology," Senator Maye Quade, who led the push, said in a statement at the time. "Companies that make this technology available for free online and in app stores will no longer be allowed to enable predators who abuse and victimize adults and children with the click of a button.
Szersza kontrola nad Grok
Grok znalazł się również pod lupą w związku z seksualnymi deepfake’ami. W January organizacja watchdog oszacowała, że Grok wygenerował ponad 23,000 seksualizowanych obrazów dzieci w ciągu 11 dni, co doprowadziło do wszczęcia dochodzeń w kilku krajach.
W March troje nieletnich w Kalifornii dołączyło do innych osób, pozywając xAI, twierdząc, że Grok został użyty do przekształcenia ich zdjęć w materiały przedstawiające seksualne wykorzystywanie dzieci wygenerowane przez AI. xAI podało, że zawiesiło ponad 50,000 kont i złożyło ponad 70,000 zgłoszeń do National Center for Missing and Exploited Children w 2026.
