Procureur-generaal Keith Ellison van Minnesota heeft vrijdag een verweerschrift ingediend tegen de poging van xAI om HF 1606 te blokkeren, de eerste wet in de Verenigde Staten die AI-tools beperkt die seksuele beelden genereren van herkenbare personen, zo meldde Decrypt.

Ellison betoogde dat het bedrijf weinig kans maakt om met haar grondwettelijke claim te slagen en niet heeft aangetoond dat handhaving onherstelbare schade zou veroorzaken.

"Met Grok Imagine heeft X.AI een ongeëvenaarde marktplaats gecreëerd voor digitaal seksueel geweld, en de staat zou vanaf het begin weerloos zijn als zij haar wetten niet op de technologie zelf kon richten," aldus Ellison.

Het argument van Minnesota is dat Grok Imagine een tool is en geen beschermde meningsuiting, waardoor het buiten de overwegingen valt waarover xAI de rechter heeft gevraagd te oordelen. Een federale rechter behandelt de kwestie woensdag in een zitting.

Wet van Minnesota richt zich op AI-aanbieders, zelfs zonder kennis of opzet

HF 1606 verbiedt een bedrijf om gebruikers realistische beelden te laten genereren waarin intieme lichaamsdelen te zien zijn die ontbraken op de oorspronkelijke foto van een herkenbaar persoon, en om zo'n beeld namens een gebruiker te produceren. Overtredingen kunnen boetes opleveren tot $500.000 per beeld, en afgebeelde personen kunnen afzonderlijk een rechtszaak aanspannen.

De wet vereist niet dat een bedrijf op de hoogte was van het beeld of het opzettelijk produceerde. De meeste deepfake-wetten, waaronder de federale Take It Down Act, bestraffen degene die de afbeelding maakt of deelt. Texas benaderde in 2025 exploitanten, maar alleen wanneer de eigenaar zich bewust was van het ontbreken van toestemming of niet reageerde op een verzoek tot verwijdering. Minnesota schafte het element van kennis af, en dat is de bepaling die xAI woensdag aanvecht.

Het Huis van Afgevaardigden van Minnesota nam de wet met 132-1 aan en de Senaat met 65-0, naar aanleiding van meldingen over een man die foto's van sociale media gebruikte om seksuele beelden te maken van meer dan 80 vrouwen die hij kende. De wet werd in april ondertekend. xAI spande op 27 juli een rechtszaak aan en vroeg op 29 juli een voorlopige voorziening aan.

Op 31 juli wees rechter Donovan Frank het verzoek af, wijzend erop dat het bedrijf bijna drie maanden na de ondertekening en drie dagen vóór de datum van inwerkingtreding had ingediend, hetgeen erop wijst dat "de schade niet onmiddellijk is". De wet trad op 1 augustus in werking.

xAI stelt dat de regels van Minnesota satire en beelden met toestemming strafbaar kunnen maken

De klacht bestrijdt niet het belang van de staat om beelden zonder toestemming te voorkomen. In plaats daarvan betoogt xAI dat de wet veel verder reikt dan dat belang, en draait het geschil om een definitie. Volgens xAI baseerde Minnesota haar definitie van een intiem lichaamsdeel op wetgeving die bedoeld is voor misdrijven waarbij lichamelijk contact komt kijken, en die definitie omvat de binnenkant van de dijen en de borsten, waardoor zwemkledingbeelden en satire onder de wet vallen.

Op pagina 19 van het stuk staat een met AI gegenereerde afbeelding die Trump op 1 mei op Truth Social deelde, waarop hij zonder shirt te zien is met JD Vance, Marco Rubio en minister van Binnenlandse Zaken Doug Burgum, samen met een niet-geïdentificeerde vrouw, in de Lincoln Memorial Reflecting Pool — een grap over de kosten van de reparatie van de vijver. Bij elke man is een borst afgebeeld waar die voorheen niet was, betoogt xAI, wat de afbeelding in Minnesota onrechtmatig maakt.

"Zelfs als afgebeelde personen toestemming gaven, de beelden zelf genereerden of ze nooit deelden, is er geen veilige haven voor goedbedoelde inspanningen van de aanbieder van creatieve AI-tools voor algemene doeleinden," aldus het bedrijf.

Volgens de eigen berekening van xAI zouden tien van dergelijke beelden $5 miljoen kosten en zou honderdduizend neerkomen op $50 miljard.

Handhavingsrecord van Grok onderstreept de omvang van het misbruikprobleem

Het bedrijf heeft zijn nalevingsrecord aangevoerd als bewijs van goede trouw. Zoals Cryptopolitan eerder meldde, verklaarde xAI in een in juli ingediend stuk dat het dit jaar 52.222 accounts heeft geschorst en 73.604 meldingen naar het National Center for Missing and Exploited Children heeft gestuurd, wat in 2026 tot ten minste 244 arrestaties heeft geleid.

Die cijfers vormen ook een maatstaf voor de omvang. Volgens het Center for Countering Digital Hate genereerde Grok in de periode van elf dagen tussen 29 december en 8 januari, na de steunbetuiging van Musk aan de bewerkingsfunctionaliteit van de app, ongeveer 3 miljoen seksueel expliciete beelden, waaronder circa 23.000 waarop naar het leek kinderen waren afgebeeld.

California opende op 14 januari een onderzoek en stuurde twee dagen later een cease-and-desist-schrijven. Vijfendertig procureurs-generaal ondertekenden op 23 januari een gezamenlijke eis. Volgens Ellison is door vijf kinderen een collectieve rechtszaak aangespannen en hebben twee families uit Arkansas een zaak aangespannen bij een federale rechtbank.

De Europese Commissie startte op 27 januari een onderzoek, en de chatbot is verboden in Maleisië en Indonesië.