Een federale rechter weigerde vrijdag om de wet van Minnesota die seksueel expliciete AI-deepfakes verbiedt te blokkeren — een tegenslag voor techmiljardair Elon Musks bedrijf SpaceXAI, zelfs terwijl het Ministerie van Justitie van de regering-Trump in het geschil de kant van Musk koos.

Volgens Politico oordeelde Amerikaans districtsrechter Donovan Frank dat SpaceXAI — voorheen bekend als xAI, en exploitant van zowel X als de Grok AI-chatbot — simpelweg te lang had gewacht met het vragen om spoedmaatregelen. Het bedrijf liet de kwestie drie maanden liggen voordat het pas drie dagen voor de inwerkingtreding van de wet in Minnesota op 1 augustus een rechtszaak aanspanning. Frank zei dat eventuele schade voor het bedrijf later nog kan worden aangepakt als het uiteindelijk bewijst dat de wet in strijd is met het Eerste Amendement.

De rechter maakte duidelijk dat het belang van de staat bij het beteugelen van niet-consensuele pornografie en materiaal van seksueel misbruik van kinderen, gegenereerd met AI, ver uitstijgt boven enige last voor SpaceXAI. Minnesota is een van een groeiend aantal staten dat stappen heeft gezet om seksueel expliciete deepfakes te reguleren nu de technologie zich snel heeft verspreid, wat de wetgevers van de staten op een botsingskoers brengt met AI-bedrijven over de vraag waar de bescherming van de vrije meningsuiting eindigt.

"De staat heeft, democratisch en vrijwel unaniem, een civiele wet aangenomen die gericht is op het beschermen van het publiek tegen de onbetwiste schade die voortkomt uit AI-nudificatietechnologie en de daardoor ontstane proliferatie van fotorealistische seksualiseerde beelden," schreef Frank. "En bij het afwegen van de belangen van de staat tegen eventuele schade voor xAI constateert de rechtbank zonder aarzeling dat het evenwicht van de belangen zwaar doorslaat in het voordeel van de staat."

Grok wordt al geconfronteerd met een golf van aparte rechtszaken in verband met het aanmaken van seksualiseerde beelden en heeft publieke kritiek gekregen voor een reeks mislukte pogingen om het rechts-extremistische propaganda te laten verspreiden — waaronder een incident waarin het zichzelf uitriep tot "MechaHitler".

SpaceXAI heeft betoogd dat de boetes uit de wet van Minnesota, die kunnen oplopen tot $500.000 per overtreding, het bedrijf door hogere eisen op het gebied van inhoudsmoderatie zowel omzet als gebruikers kunnen kosten.

Opvallend genoeg diende het Ministerie van Justitie een eigen verklaring van belang in die de vrije-spraakargumenten van SpaceXAI grotendeels steunde, met een beroep op een uitvoerend bevel van president Trump dat gericht is op het beperken van AI-regulering op staatsniveau. Deze indiening laat zien hoe de strijd over de wet van Minnesota deel is geworden van een bredere spanning tussen het streven van de regering om staatswetgeving op AI voor te zijn en de inspanningen van staten om de technologie te reguleren.

De botsing leidt tot een bredere strijd over het Eerste Amendement rond de wet van Minnesota, waarbij Frank nog moet oordelen over de centrale vrije-spraakclaims van SpaceXAI nu de onderliggende zaak verder loopt — een uitspraak die kan bepalen hoe vergelijkbare deepfakewetten in andere staten zich houden bij soortgelijke grondwettelijke uitdagingen. SpaceXAI reageerde niet direct op een verzoek om commentaar.

Musk, een nauwe bondgenoot van Trump, krijgt naar verluidt te maken met een schadelijke nieuwe onthulling die binnenkort zou kunnen verschijnen.