xAI verklagt Minnesota, um das erste US-Gesetz gegen AI-Nudification kurz vor dem Inkrafttreten zu stoppen
Wichtige Erkenntnisse
- •xAI hat eine bundesstaatliche Klage nach dem First Amendment eingereicht, um Minnesota's HF 1606, das erste US-Bundesstaatengesetz, das sich gezielt gegen KI-gestützte Nudification-Plattformen richtet, vor seinem Inkrafttreten am 1. August zu blockieren.
- •HF 1606 wurde mit fast einstimmiger parteiübergreifender Unterstützung – 132-1 im Repräsentantenhaus und 65-0 im Senat – nach einem Vorfall verabschiedet, bei dem ein Mann Social-Media-Fotos nutzte, um sexualisierte KI-Bilder von mehr als 80 Frauen zu erstellen.
- •Das Gesetz legt eine strenge Haftung für Plattformen mit zivilrechtlichen Strafen von bis zu 500.000 USD pro generiertem Bild fest, unabhängig von Wissen oder Absicht der Plattform, und enthält keinen Safe Harbor für gutgläubige Bemühungen zur Moderation von Inhalten.
- •xAI argumentiert, dass die breite Definition von intimen Körperteilen im Gesetz eine Vielzahl geschützter Meinungsäußerungen, einschließlich politischer Satire mit öffentlichen Personen, der Haftung aussetzen könnte.
- •Es wird erwartet, dass der Ausgang dieses Falls andere Bundesstaaten beeinflusst, die ähnliche Nudification-Gesetze prüfen, und xAI hat auf den Bundesgesetz TAKE IT DOWN Act als bevorzugtes legislatives Vorbild verwiesen.
xAI, das KI-Unternehmen von Elon Musk, hat am Montag eine bundesstaatliche Klage nach dem First Amendment gegen den Generalstaatsanwalt von Minnesota, Keith Ellison, eingereicht, um HF 1606 zu blockieren – das erste US-Bundesstaatengesetz, das sich gezielt gegen KI-gestützte „Nudification“-Plattformen richtet. Das Gesetz soll am 1. August in Kraft treten.
Die beim US-Bezirksgericht für den Bezirk Minnesota eingereichte Klage bezeichnet das Gesetz als „ein zu weit gefasstes, inhaltsbasiertes Verbot der freien Meinungsäußerung und der Werkzeuge des visuellen Ausdrucks bei einem unbeholfenen Versuch, Nudification zu verbieten.“ Nudification bezieht sich auf Software, die KI nutzt, um Kleidung in echten Fotos von echten Personen digital zu entfernen oder zu verändern. Da das Gesetz Meinungsäußerungen aufgrund ihres Inhalts reguliert, würden die Gerichte eine strenge Überprüfung (strict scrutiny) anwenden – den anspruchsvollsten Standard im Verfassungsrecht –, was Minnesota dazu zwingen würde, nachzuweisen, dass das Gesetz eng gefasst ist und einem zwingenden staatlichen Interesse dient.
Die Legislative von Minnesota verabschiedete HF 1606 mit überwältigender parteiübergreifender Unterstützung – 132-1 im Repräsentantenhaus und 65-0 im Senat –, nachdem ein Mann Social-Media-Fotos genutzt hatte, um sexualisierte Bilder von mehr als 80 Frauen zu generieren, die er persönlich kannte.
Nach dem Gesetz wird jede Plattform streng haftbar gemacht – das bedeutet, dass sie unabhängig von Wissen oder Absicht rechtlich verantwortlich ist –, wenn Nutzer realistische Bilder von echten Personen erstellen, die Körperteile zeigen, die diese Personen nie tatsächlich entblößt haben. Jeder Verstoß kann zivilrechtliche Strafen von bis zu 500.000 USD pro generiertem Bild nach sich ziehen.
xAIs Klageschrift verteidigt Nudification nicht selbst. „xAI bestreitet dementsprechend nicht Minnesotas Interesse an der Untersagung der Verbreitung von künstlich erstellten Nacktbildern echter Personen ohne deren Zustimmung“, heißt es in der Klage. „Aber das von Minnesota erlassene Gesetz geht weit über dieses Ziel hinaus und setzt eine Vielzahl geschützter Meinungsäußerungen der zivilrechtlichen Haftung und staatlichen Sanktionen aus.“
Das Unternehmen argumentiert, der Kernfehler liege darin, wie Minnesota die Schlüsselbegriffe definiert hat. Der Klageschrift zufolge hat der Bundesstaat die Definition von „intimen Körperteilen“ (intimate part) aus einem Strafgesetz für sexuelle Kontakte übernommen, das für nicht einvernehmliche körperliche Berührungen und nicht für die Bildgenerierung geschrieben wurde. Unter dieser Definition gelten der innere Oberschenkel, das Gesäß und die Brust gleichermaßen als intime Körperteile. Infolgedessen könnte die Erstellung eines realistischen KI-Bildes eines oberkörperfreien Politikers, einer Frau im Badeanzug oder einer öffentlichen Person am Strand – selbst zum Zweck der politischen Satire – sowohl das Gesetz als auch die Geldstrafen auslösen.
Die Klageschrift hebt auch hervor, was xAI als das Fehlen jeglicher Plattformschutzmaßnahmen bezeichnet. „Es gibt keine Safe-Harbor-Regelung für die guten Bemühungen des Anbieters von Allzweck-KI-Kreativwerkzeugen, Schäden zu vermeiden“, heißt es in der Klageschrift. „Die Haftung greift selbst dann, wenn die abgebildeten Personen zugestimmt haben – oder das Bild selbst erstellt haben – und selbst dann, wenn das Bild nie geteilt wird.“ Das Fehlen einer solchen Plattform-Safe-Harbor-Regelung stellt eine deutliche Abkehr von dem Haftungsrahmen dar, der für Internetvermittler nach Abschnitt 230 des Communications Decency Act gilt, der Online-Dienste historisch vor der Verantwortung für nutzergenerierte Inhalte geschützt hat.
Darüber hinaus enthält das Gesetz keine Scienter-Anforderung (Wissentlichkeit) – das bedeutet, dass ein Nutzer, der die eigenen Inhaltsfilter eines Unternehmens umgeht, dieses Unternehmen dennoch der vollen Haftung aussetzt. Im Jahr 2026 meldete xAI eigenen Angaben zufolge die Sperrung von mehr als 50.000 Konten und erstattete über 70.000 Meldungen an das NCMEC (das National Center for Missing & Exploited Children), was zu mindestens 244 Festnahmen führte. Keine dieser Durchsetzungsmaßnahmen würde nach HF 1606 eine Verteidigungslinie darstellen.
Die breitere regulatorische Landschaft liefert einen wichtigen Kontext. Groks Bildgenerierungswerkzeuge stießen fast unmittelbar nach ihrem Start Ende Juli 2025 auf Kontroversen, als das System Deepfakes – KI-generierte synthetische Bilder echter Personen – anhand einfacher Texteingaben erstellte. Dies löste regulatorische Untersuchungen in ganz Europa, Australien und mehreren US-Bundesstaaten aus. Die Stadt Baltimore und drei Minderjährige in Tennessee reichten separat Klagen gegen xAI wegen Groks Deepfake-Ergebnissen ein. Im April forderte das Unternehmen auch das KI-Gesetz von Colorado aus ähnlichen Gründen des First Amendment heraus. Minnesotas Gesetz ist das erste in den USA, das sich gezielt gegen Nudification-Tools richtet, und sein Ausgang wird wahrscheinlich andere Bundesstaaten beeinflussen, die ähnliche Maßnahmen prüfen.
Die Senatorin Erin Maye Quade, die wichtigste Befürworterin des Gesetzes im Senat, bestätigte, dass das Verbot des Gesetzes in Bezug auf einvernehmliche Bilder „beabsichtigt“ war.
xAI verweist auf den Bundesgesetz TAKE IT DOWN Act, den Präsident Donald Trump im Mai 2025 unterzeichnete, als geeigneteres legislatives Vorbild. Dieses Gesetz befasst sich bereits mit nicht einvernehmlichen intimen Deepfakes, erfordert jedoch den Nachweis fehlender Zustimmung und tatsächlicher Verbreitung, verwendet eine engere Definition der abgedeckten Körperteile und enthält spezifische Ausnahmeregelungen für Bildungs- und medizinische Inhalte.
Generalstaatsanwalt Ellison signalisierte, dass er nicht von der Verteidigung der Maßnahme zurücktreten werde. „KI-Nudification beraubt das Ziel seiner Würde und kann emotionaler, persönlicher und beruflicher Natur immense Schäden verursachen“, sagte er nach Einreichung der Klage.
Da HF 1606 am Samstag in Kraft treten soll, beantragt xAI eine einstweilige Verfügung des Bundesgerichts, um die Durchsetzung vor Inkrafttreten des Gesetzes zu stoppen. Um mit einem Antrag auf einstweilige Verfügung erfolgreich zu sein, muss xAI das Gericht davon überzeugen, dass es wahrscheinlich in der Hauptsache erfolgreich sein wird, dass ihm ohne die Verfügung ein irreparabler Schaden entsteht und dass die Abwägung der Interessen und das öffentliche Interesse für seine Position sprechen.