Minnesota verzet zich tegen Elon Musk's xAI vanwege het verzoek van het bedrijf om HF-1606 te blokkeren, een eerste-in-zijn-soort staatswet die zich richt op AI-tools die realistische seksuele beelden van identificeerbare personen genereren, terwijl een federale rechter zich voorbereidt om de zaak woensdag te behandelen.

Het geschil draait om de vraag of de wet uiting of technologie reguleert: xAI stelt dat de maatregel in strijd is met het Eerste Amendement, terwijl Minnesota betoogt dat Grok Imagine een technologisch hulpmiddel is en geen beschermde uiting.

In een court filing van vrijdag voerde Minnesota Attorney General Keith Ellison aan dat het onwaarschijnlijk is dat xAI zal slagen in zijn grondwettelijke bezwaar en dat het bedrijf niet heeft aangetoond dat handhaving van de wet onherstelbare schade zou veroorzaken.

"With Grok Imagine, X.AI has created an unparalleled marketplace for digital sexual violence that poses virtually no barrier to entry," schreef Ellison. "That marketplace, coupled with the functional capabilities of Grok Imagine, would doom Minnesota from the start if it could not direct its laws to the technology that makes digital sexual victimization possible in the first place."

De wet en de rechtszaak

De wet, aangenomen in april en van kracht sinds 1 augustus, verbiedt platforms en softwareontwikkelaars om gebruikers toe te staan realistische beelden te maken die intieme lichaamsdelen tonen die niet voorkwamen in het originele beeld van een identificeerbare persoon. Overtredingen kunnen leiden tot boetes tot $500.000 per beeld.

Voorafgaand aan de invoering van de wet klaagde xAI Ellison in juli aan om de wet te blokkeren, met het argument dat deze in strijd is met het Eerste Amendement en ook van toepassing kan zijn op beschermde beelden, waaronder shirtloze mannen, zwemmers en politieke satire. De zaak wordt nauwlettend gevolgd omdat zij kan helpen bepalen hoe ver staten kunnen gaan in het reguleren van door AI gegenereerde intieme beelden, een onderwerp dat zorgen heeft gewekt bij wetgevers en platforms nu de tools eenvoudiger te gebruiken zijn geworden.

"There is no safe harbor for good-faith efforts of the provider of general-purpose AI creative tools to avoid harms," schreef xAI in zijn klacht. "Liability attaches even if the depicted persons consented—or created the image themselves—and even if the image is never shared."

Wetgevende achtergrond

Minnesota nam de maatregel aan met 132-1 in het Huis van Afgevaardigden en 65-0 in de Senaat nadat wetgevers meldingen hoorden over een man die socialmediabeelden gebruikte om seksuele beelden te maken van meer dan 80 vrouwen die hij kende.

"Today, we led the nation protecting women, children and everyone in public life from the harm caused by AI nudification technology," zei senator Maye Quade, die het initiatief leidde, destijds in een verklaring. "Companies that make this technology available for free online and in app stores will no longer be allowed to enable predators who abuse and victimize adults and children with the click of a button."

Breder toezicht op Grok

Grok heeft ook te maken gehad met toezicht vanwege seksueel expliciete deepfakes. In januari schatte een toezichthouder dat Grok in 11 dagen meer dan 23.000 geseksualiseerde beelden van kinderen had gegenereerd, wat onderzoeken in meerdere landen op gang bracht.

In maart sloten drie minderjarigen in Californië zich bij anderen aan in een rechtszaak tegen xAI, met de bewering dat Grok werd gebruikt om hun foto's om te zetten in door AI gegenereerd materiaal voor seksueel misbruik van kinderen. xAI heeft gezegd dat het in 2026 meer dan 50.000 accounts heeft geschorst en meer dan 70.000 meldingen heeft ingediend bij het National Center for Missing and Exploited Children.