Sędzia federalny utrzymał w mocy zakaz Minnesoty dotyczący narzędzi AI, które mogą przekształcać zdjęcia prawdziwych osób w nagie obrazy i materiały, odrzucając wniosek należącego do Elona Muska xAI o zawieszenie ustawy na czas trwania sporu dotyczącego wolności słowa. Wyrok pozwala regulatorom natychmiast rozpocząć nakładanie kar do 500 000 dolarów za każdy obraz.

Sędzia Sądu Okręgowego USA Donovan Frank oddalił wniosek xAI o wydanie nakazu wstępnego, który zawiesiłby prawo do zakończenia procesu. Rozważając to, co nazwał „równowagą szkód”, Frank uznał, że „interes publiczny zdecydowanie przechyla się na rzecz stanu”, zgodnie z memorandum cytowanym przez CBS Minnesota.

Sędzia określił ustawę jako „akt cywilny mający na celu ochronę społeczeństwa przed bezsporną szkodą wynikającą z technologii AI-nudyfikacji” i zauważył, że została przyjęta „demokratycznie i niemal jednogłośnie”. Jednocześnie przyznał, że fundamentalne kwestie dotyczące Pierwszej Poprawki pozostają złożone ze względu na nowość technologii, wyrażając przekonanie, że zostaną one rozstrzygnięte w miarę rozwoju sprawy. Na razie jednak zakaz pozostaje w mocy. Sprawa znajduje się w centrum szerszego, nierozstrzygniętego pytania prawnego: czy generowanie obrazów syntetycznych na podstawie poleceń użytkowników stanowi chronioną wypowiedź dla dostawców AI — kwestii, którą sądy dopiero zaczynają podejmować, gdy stany ścigają się w regulowaniu deepfake'ów i obrazów tworzonych bez zgody.

Last-minute filing undercuts xAI's case

Legislatura Minnesoty przyjęła ustawę tej wiosny, a gubernator podpisał ją. Jednak xAI złożyła pozew dopiero 27 lipca — około trzy miesiące później i zaledwie kilka dni przed datą egzekwowania 1 sierpnia. Firma następnie 29 lipca wystąpiła o tymczasowy nakaz restrykcyjny, który sędzia Frank oddalił 31 lipca.

To rozliczenie w czasie działało na niekorzyść xAI. „Gdyby xAI naprawdę obawiała się nieodwracalnej szkody, Sąd nie ma wątpliwości, że działałaby szybciej, składając pozwę i wnioskując o zabezpieczenie”, napisał Frank.

Innymi słowy, firma starająca się uniknąć katastrofalnych kar nie czeka do wigilii wejścia przepisów w życie, by prosić sąd o pomoc.

Extent of the law and the costs

Ustawa, znana jako HF 1606, jest pierwszą taką w Stanach Zjednoczonych. Zakazuje dostawcy umożliwiania użytkownikom generowania realistycznych obrazów dodających intymne części ciała nieobecne na oryginalnym zdjęciu rozpoznawalnej osoby oraz wytwarzania takiego obrazu w imieniu jakiegokolwiek użytkownika. Każde naruszenie zagrożone jest karą cywilną do 500 000 dolarów, a osoby przedstawione na takich obrazach mogą wnosić własne roszczenia odszkodowawcze.

Federalna ustawa Take It Down Act oraz prawo Teksasu z 2025 roku dotyczące deepfake'ów uzależniają odpowiedzialność od tego, czy twórca wiedział, że obraz powstał bez zgody. Minnesota całkowicie usunęła ten wymóg, co oznacza, że dostawca może ponieść odpowiedzialność nawet bez wiedzy o utworzeniu nagiego obrazu. Właśnie ten przepis jest głównym punktem sprzeciwu xAI. Ustawa została przyjęta przez Izbę 132-1 i Senat 65-0 po doniesieniach o mężczyźnie, który wykorzystał zdjęcia z mediów społecznościowych do wytworzenia seksualnych obrazów ponad 80 znanych mu kobiet.

Konstrukcja oparta na odpowiedzialności bez zawinienia ma znaczenie wykraczające poza Minnesotę. Ponieważ struktura kary za każdy obraz nie pozostawia dostawcy miejsca na twierdzenie, że nie wiedział o konkretnych naruszeniach, inne stany obserwujące, jak sądy traktują HF 1606, mogą wzorować przyszłe przepisy dotyczące treści AI na tym podejściu — lub się od niego odciąć, jeśli wyzwanie zakończy się sukcesem w apelacji.

The scale behind Grok Imagine

Prokurator generalny Minnesoty Keith Ellison, który bronił ustawy, nazwał wyrok zwycięstwem mieszkańców stanu. „Jestem niezwykle dumny, że mogę bronić tej ustawy, a wraz z nią godności ludzi Minnesoty”, powiedział, dodając, że ustawa nadal blokuje produktom takim jak Grok Imagine firmy xAI generowanie seksualizowanych obrazów.

Zgodnie z raportem cytowanym w wyroku, Grok wygenerował około 3 milionów seksualizowanych obrazów w ciągu 11 dni po uruchomieniu nowej funkcji edycji obrazów, w tym około 23 000, które zdawały się przedstawiać dzieci. Cryptopolitan wcześniej informował, że xAI, broniąc swojego rekordu, podała, iż zawiesiła w tym roku 52 222 konta i złożyła 73 604 zgłoszenia do Krajowego Centrum Dzieci Zaginionych i Wykorzystywanych.

Prawnicy xAI złożyli już zawiadomienie, że poproszą Ósmy Okręgowy Sąd Apelacyjny o rewizję odmowy wydania nakazu. We wcześniejszych argumentach firma proponowała zawieszenie funkcji dla użytkowników z Minnesoty zamiast ryzykować kary. Apelacja oznacza, że fundamentalne kwestie konstytucyjne trafią do sądu wyższej instancji, a ostateczne rozstrzygnięcie nakazu przez Ósmy Okręg — oraz jeszcze niezapadły wyrok merytoryczny sądu okręgowego — przesądzą, ile z ustawy przetrwa w praktyce.