Ein Bundesrichter hat Minnesotas Verbot von KI-Tools, die Fotos realer Personen in Nacktbilder und -medien verwandeln können, aufrechterhalten und damit einen Antrag von Elon Musks xAI abgelehnt, das Gesetz während der laufenden verfassungsrechtlichen Klage zur Meinungsfreiheit auszusetzen. Das Urteil ermöglicht es den Aufsichtsbehörden, sofort Bußgelder von bis zu 500.000 US-Dollar pro Bild zu verhängen.

Bundesrichter Donovan Frank wies den Antrag von xAI auf eine einstweilige Verfügung ab, eine Anordnung, die das Gesetz bis zum Abschluss des Rechtsstreits ausgesetzt hätte. Bei der Abwägung dessen, was er die „Abwägung der Schäden“ nannte, kam Frank zu dem Ergebnis, dass das „öffentliche Interesse deutlich zugunsten des Staates“ spricht, wie aus einem von CBS Minnesota zitierten Protokoll hervorgeht.

Der Richter bezeichnete das Gesetz als eine „zivile Vorschrift zum Schutz der Öffentlichkeit vor dem unbestrittenen Schaden, der von der KI-Nudification-Technologie ausgeht“, und stellte fest, dass es „demokratisch und nahezu einstimmig“ verabschiedet wurde. Gleichzeitig räumte er ein, dass die zugrunde liegenden Fragen zum ersten Verfassungszusatz angesichts der Neuartigkeit der Technologie komplex bleiben, äußerte jedoch die Zuversicht, dass diese Fragen im Verlauf des Verfahrens geklärt würden. Vorerst bleibt das Verbot in Kraft. Der Fall steht im Mittelpunkt einer breiteren ungeklärten Rechtsfrage: ob die Erzeugung synthetischer Bilder auf Basis von Nutzereingaben als geschützte Rede für KI-Anbieter gilt – ein Thema, mit dem sich Gerichte erst beginningsweise befassen, während die Bundesstaaten wetteifern, Deepfakes und nicht einverständliche Bilder zu regulieren.

Späte Klageeinreichung schwächt xAIs Position

Minnesotas Parlament verabschiedete das Gesetz in diesem Frühjahr, und der Gouverneur unterzeichnete es. Doch xAI reichte die Klage erst am 27. Juli ein – rund drei Monate später und nur wenige Tage vor dem Inkrafttreten am 1. August. Am 29. Juli beantragte das Unternehmen außerdem eine vorläufige Unterlassungsverfügung, die Richter Frank am 31. Juli ablehnte.

Dieses Timing sprach gegen xAI. „Wenn xAI wirklich einen irreparablen Schaden befürchtet hätte, zweifelt das Gericht nicht daran, dass das Unternehmen schneller Klage eingereicht und vorläufigen Rechtsschutz beantragt hätte“, schrieb Frank.

Mit anderen Worten: Ein Unternehmen, das sich gegen katastrophale Strafen zu schützen versucht, wartet nicht bis zum Vorabend der Durchsetzung, um gerichtliche Hilfe zu suchen.

Umfang des Gesetzes und seine Strafen

Das Gesetz, bekannt als HF 1606, ist das erste seiner Art in den Vereinigten Staaten. Es untersagt Anbietern, Nutzern die Erstellung realistischer Bilder zu ermöglichen, die intime Körperteile hinzufügen, die im Originalfoto einer identifizierbaren Person nicht vorhanden waren, sowie die Erstellung solcher Bilder im Auftrag von Nutzern. Jeder Verstoß kann mit einer zivilen Strafe von bis zu 500.000 US-Dollar geahndet werden, und abgebildete Personen können eigene Schadensersatzansprüche geltend machen.

Das bundesstaatliche Take It Down Act und ein Texaner Gesetz von 2025 gegen Deepfakes setzen beide voraus, dass der Ersteller wusste, dass das Bild ohne Einverständnis erstellt wurde. Minnesota hat diese Voraussetzung vollständig gestrichen, was bedeutet, dass ein Anbieter selbst dann haftbar gemacht werden kann, wenn er keine Kenntnis von der Erstellung eines Nacktbildes hatte. Gegen genau diese Bestimmung richtet sich xAIs Widerspruch. Das Gesetz wurde nach Berichten über einen Mann verabschiedet, der Social-Media-Fotos genutzt hatte, um sexuelle Bilder von mehr als 80 ihm bekannten Frauen zu fälschen – mit 132:1 im Repräsentantenhaus und 65:0 im Senat.

Die verschuldensunabhängige Haftung hat Bedeutung über Minnesota hinaus. Da die Strafstruktur pro Bild einem Anbieter keinen Spielraum lässt, sich damit zu verteidigen, von konkreten Verstößen nichts gewusst zu haben, könnten andere Bundesstaaten, die beobachten, wie Gerichte mit HF 1606 umgehen, künftige KI-Inhaltsgesetze an diesem Ansatz orientieren – oder sich davon abwenden, falls die rechtliche Anfechtung in der Berufung Erfolg hat.

Das Ausmaß hinter Grok Imagine

Minnesotas Generalstaatsanwalt Keith Ellison, der das Gesetz verteidigt hatte, bezeichnete die Entscheidung als Sieg für die Einwohner des Bundesstaates. „Ich bin äußerst stolz, dieses Gesetz und damit die Würde der Menschen in Minnesota zu verteidigen“, sagte er und fügte hinzu, dass das Gesetz weiterhin verhindere, dass Produkte wie xAIs Grok Imagine sexualisierte Bilder generieren.

Laut einem in der Entscheidung zitierten Bericht generierte Grok in den 11 Tagen nach der Einführung einer neuen Bildbearbeitungsfunktion rund 3 Millionen sexualisierte Bilder, darunter etwa 23.000, die offenbar Kinder darstellten. Cryptopolitan hatte zuvor berichtet, dass xAI unter Verweis auf seine Bilanz angab, in diesem Jahr 52.222 Konten gesperrt und 73.604 Meldungen beim National Center for Missing and Exploited Children eingereicht zu haben.

xAIs Anwälte haben nun angekündigt, die Ablehnung der einstweiligen Verfügung vom 8th Circuit Court of Appeals überprüfen zu lassen. In früheren Anträgen hatte das Unternehmen vorgeschlagen, Funktionen für Nutzer in Minnesota zu sperren, statt Bußgelder zu riskieren. Die Berufung bedeutet, dass die zugrunde liegenden verfassungsrechtlichen Fragen vor ein höheres Gericht gelangen – wobei der schließliche Umgang des Eighth Circuit mit der einstweiligen Verfügung sowie das noch ausstehende abschließende Urteil des Bezirksgerichts darüber entscheiden werden, wie viel vom Gesetz in der Praxis Bestand hat.