Minnesotas Generalstaatsanwalt Keith Ellison reichte am Freitag einen Schriftsatz ein, in dem er sich gegen den Versuch von xAI stellte, HF 1606 zu blockieren — das landesweit erste Gesetz des Bundesstaates, das KI-Tools einschränkt, die sexuelle Bilder identifizierbarer Personen erzeugen, wie Decrypt berichtete.

Ellison argumentierte, das Unternehmen werde mit hoher Wahrscheinlichkeit mit seiner verfassungsrechtlichen Klage scheitern und habe nicht nachgewiesen, dass die Durchsetzung des Gesetzes einen irreparablen Schaden verursachen würde.

"With Grok Imagine, X.AI has created an unparalleled marketplace for digital sexual violence, and the state would be defenseless from the start unless it could direct its laws at the technology itself", sagte Ellison.

Minnesota argumentiert, dass Grok Imagine ein Werkzeug und keine geschützte Rede sei, wodurch es aus den Erwägungen herausfiele, die xAI den Richter prüfen lassen will. Ein Bundesrichter wird die Angelegenheit am Mittwoch in einer Anhörung behandeln.

Minnesotas Gesetz zielt auch ohne Wissen oder Absicht auf KI-Anbieter ab

HF 1606 verbietet es einem Unternehmen, Nutzern zu erlauben, realistische Bilder zu erzeugen, die intime Körperteile zeigen, die im ursprünglichen Foto einer identifizierbaren Person nicht vorhanden waren, sowie ein solches Bild im Auftrag eines Nutzers zu erzeugen. Verstöße können mit Strafen von bis zu 500.000 US-Dollar pro Bild geahndet werden. Betroffene Personen können separat klagen.

Das Gesetz verlangt nicht, dass ein Unternehmen von dem Bild wusste oder es beabsichtigt hat. Die meisten Deepfake-Gesetze, einschließlich des bundesweiten Take It Down Act, bestrafen denjenigen, der das Bild erstellt oder teilt.

Texas kontaktierte Anbieter im Jahr 2025, allerdings nur dann, wenn dem Eigentümer das Fehlen von Einwilligung bekannt war oder er nicht auf eine Aufforderung zur Entfernung reagierte. Minnesota hat das Wissenselement gestrichen, und genau diese Bestimmung greift xAI am Mittwoch an.

Das Repräsentantenhaus von Minnesota verabschiedete den Gesetzentwurf mit 132 zu 1 Stimmen, der Senat mit 65 zu 0, nachdem Berichte über einen Mann bekannt geworden waren, der Social-Media-Fotos nutzte, um sexuelle Bilder von mehr als 80 ihm bekannten Frauen zu erstellen. Das Gesetz wurde im April unterzeichnet. xAI reichte am 27. Juli Klage ein und beantragte am 29. Juli eine einstweilige Verfügung.

Am 31. Juli wies Richter Donovan Frank den Antrag zurück und verwies darauf, dass das Unternehmen fast drei Monate nach der Unterzeichnung und drei Tage vor dem Inkrafttreten geklagt habe, was darauf hindeute, dass der "harm is not immediate". Das Gesetz trat am 1. August in Kraft.

xAI sagt, Minnesotas Regeln könnten Satire und einvernehmliche Bilder kriminalisieren

Die Klage stellt das Interesse des Staates am Schutz vor nicht einvernehmlichen Bildern nicht infrage. Sie argumentiert vielmehr, dass der Gesetzestext weit darüber hinausgehe, und der Streit dreht sich um eine Definition. Nach Angaben von xAI stützte Minnesota seine Definition eines intimen Körperteils auf eine Vorschrift, die für Straftaten mit Körperkontakt gedacht sei; diese Definition umfasse die Innenseiten der Oberschenkel und Brüste und erfasse damit auch Badebekleidung und Satire.

Auf Seite 19 der Eingabe befindet sich ein KI-generiertes Bild, das Trump am 1. Mai auf Truth Social geteilt hatte und auf dem er zusammen mit JD Vance, Marco Rubio und Innenminister Doug Burgum ohne Hemd sowie mit einer unbekannten Frau im Lincoln Memorial Reflecting Pool zu sehen ist — ein Witz über die Kosten der Reparaturen am Becken. xAI argumentiert, dass die Brust jedes Mannes dort dargestellt sei, wo sie zuvor nicht war, was das Bild in Minnesota rechtswidrig mache.

"Even if subjects gave their consent, generated the images themselves or never shared them, there is no safe harbor for good-faith efforts by the provider of general-purpose AI creative tools," sagte das Unternehmen.

Nach eigener Rechnung von xAI würden zehn solche Bilder 5 Millionen US-Dollar kosten, und 100.000 würden 50 Milliarden US-Dollar erreichen.

Groks Durchsetzungsbilanz verdeutlicht das Ausmaß des Missbrauchsproblems

Das Unternehmen verweist auf seine Compliance-Bilanz als Beleg für guten Glauben. Wie Cryptopolitan zuvor berichtete, erklärte xAI in einer Einreichung im Juli, dass es in diesem Jahr 52.222 Konten gesperrt und 73.604 Meldungen an das National Center for Missing and Exploited Children gesendet habe, was 2026 zu mindestens 244 Festnahmen geführt habe.

Diese Zahlen verdeutlichen auch das Ausmaß. Laut dem Center for Countering Digital Hate erzeugte Grok im Zeitraum von 11 Tagen zwischen dem 29. Dezember und dem 8. Januar, nachdem Musk die Bearbeitungsfunktion der App unterstützt hatte, etwa 3 Millionen sexuell explizite Bilder, darunter rund 23.000, die so wirkten, als würden Kinder dargestellt.

Kalifornien eröffnete am 14. Januar eine Untersuchung und schickte zwei Tage später eine Unterlassungsaufforderung. Fünfunddreißig Generalstaatsanwälte unterzeichneten am 23. Januar eine gemeinsame Forderung. Laut Ellison wurde eine Sammelklage von fünf Kindern eingereicht, und zwei Familien aus Arkansas haben vor einem Bundesgericht Klage erhoben.

Die Europäische Kommission leitete am 27. Januar eine Untersuchung ein, und der Chatbot wurde in Malaysia und Indonesien verboten.