Minnesota wehrt sich gegen den Versuch von Elon Musks xAI, HF-1606 zu blockieren, ein Gesetz des Bundesstaats, das erstmals KI-Tools ins Visier nimmt, die realistische sexuelle Bilder identifizierbarer Personen erzeugen, während ein Bundesrichter den Fall am Mittwoch anhören soll.

Der Streit dreht sich um die Frage, ob das Gesetz Rede oder Technologie reguliert: xAI vertritt die Auffassung, die Regelung verstoße gegen den First Amendment, während Minnesota argumentiert, Grok Imagine sei ein technologisches Werkzeug und keine geschützte Ausdrucksform.

In einer Gerichtseinreichung vom Freitag argumentierte Minnesotas Generalstaatsanwalt Keith Ellison, dass xAI voraussichtlich mit seiner verfassungsrechtlichen Anfechtung scheitern werde und nicht gezeigt habe, dass die Durchsetzung des Gesetzes einen irreparablen Schaden verursachen würde.

"Mit Grok Imagine hat X.AI einen beispiellosen Marktplatz für digitale sexuelle Gewalt geschaffen, der praktisch keine Einstiegshürden aufweist", schrieb Ellison. "Dieser Marktplatz würde in Kombination mit den funktionalen Fähigkeiten von Grok Imagine Minnesota von Anfang an zum Scheitern verurteilen, wenn der Staat seine Gesetze nicht auf die Technologie richten könnte, die digitale sexuelle Viktimisierung überhaupt erst möglich macht."

Das Gesetz und die Klage

Das im April verabschiedete und am 1. August in Kraft getretene Gesetz verbietet Plattformen und Softwareentwicklern, Nutzern zu erlauben, realistische Bilder zu erstellen, die intime Körperteile zeigen, welche im ursprünglichen Bild einer identifizierbaren Person nicht vorhanden waren. Verstöße können mit Strafen von bis zu 500.000 Dollar pro Bild geahndet werden.

Vor dem Inkrafttreten des Gesetzes verklagte xAI Ellison im Juli, um die Regelung zu stoppen, und argumentierte, sie verstoße gegen den First Amendment und könne geschützte Bilder erfassen, darunter oberkörperfreie Männer, Schwimmer und politische Satire. Der Fall wird aufmerksam beobachtet, weil er dazu beitragen könnte, zu definieren, wie weit Bundesstaaten bei der Regulierung von KI-generierten intimen Bildern gehen dürfen, ein Thema, das bei Gesetzgebern und Plattformen Besorgnis ausgelöst hat, da die Werkzeuge immer leichter zu nutzen sind.

"Es gibt keinen sicheren Hafen für gutgläubige Bemühungen des Anbieters allgemeiner KI-Kreativwerkzeuge, Schäden zu vermeiden", schrieb xAI in seiner Klage. "Die Haftung greift selbst dann, wenn die dargestellten Personen zugestimmt haben — oder das Bild selbst erstellt haben — und selbst dann, wenn das Bild nie geteilt wird."

Gesetzgeberischer Hintergrund

Minnesota verabschiedete die Maßnahme mit 132-1 im Repräsentantenhaus und 65-0 im Senat, nachdem Abgeordnete Berichte über einen Mann gehört hatten, der mithilfe von Fotos aus sozialen Medien sexuelle Bilder von mehr als 80 Frauen erzeugte, die er kannte.

"Heute haben wir die Nation beim Schutz von Frauen, Kindern und allen Personen des öffentlichen Lebens vor den durch AI-Nudification-Technologie verursachten Schäden angeführt", sagte Senatorin Maye Quade, die die Initiative anführte, damals in einer Stellungnahme. "Unternehmen, die diese Technologie kostenlos online und in App-Stores bereitstellen, werden künftig nicht mehr erlauben dürfen, dass Täter mit einem Klick Erwachsene und Kinder missbrauchen und viktimisieren."

Weitere Prüfung von Grok

Auch Grok steht wegen sexuell expliziter Deepfakes unter Beobachtung. Im Januar schätzte eine Aufsichtsorganisation, dass Grok innerhalb von 11 Tagen mehr als 23.000 sexualisierte Bilder von Kindern erzeugt habe, was in mehreren Ländern Ermittlungen auslöste.

Im März schlossen sich drei Minderjährige in Kalifornien anderen Klägern an und verklagten xAI mit dem Vorwurf, Grok sei verwendet worden, um ihre Fotos in KI-generiertes Material sexuellen Kindesmissbrauchs zu verwandeln. xAI teilte mit, es habe 2026 mehr als 50.000 Konten gesperrt und mehr als 70.000 Meldungen an das National Center for Missing and Exploited Children eingereicht.