Een federale rechter heeft de ban van Minnesota op AI-tools die foto's van echte mensen kunnen omzetten in naakte afbeeldingen en media in stand gehouden, en daarmee het verzoek van Elon Musks xAI afgewezen om de wet te schorsen terwijl de vrije-uitingszaak van het bedrijf loopt. De uitspraak stelt toezichthouders in staat om onmiddellijk boetes op te leggen tot $500.000 per afbeelding.

Amerikaans districtsrechter Donovan Frank wees het verzoek van xAI om een voorlopige injunction af, een bevel dat de wet zou hebben gepauzeerd tot het einde van de rechtszaak. Bij het afwegen van wat hij de "balance of harms" noemde, concludeerde Frank dat het "openbaar兴趣 sterk in het voordeel van de staat doorslaat", volgens een memo aangehaald door CBS Minnesota.

De rechter omschreef de maatregel als een "civiele wet gericht op het beschermen van het publiek tegen de onbetwiste schade voortkomend uit AI-nudificatietechnologie" en merkte op dat deze "democratisch en vrijwel unaniem" werd aangenomen. Tegelijkertijd erkende hij dat de onderliggende eerste amendementsvragen complex blijven gezien de nieuwheid van de technologie, met het vertrouwen dat de kwesties zouden worden opgelost naarmate de zaak vordert. Voorlopig blijft de ban van kracht. De zaak staat centraal in een bredere onopgeloste juridische vraag: of het genereren van synthetische afbeeldingen op basis van gebruikersprompts telt als beschermde spraak voor AI-aanbieders, een kwestie waar rechtbanken pas mee zijn begonnen nu staten wedijveren om deepfakes en niet-consensuele beelden te reguleren.

Laatsteacute indiening ondermijnt de zaak van xAI

De wetgevende macht van Minnesota keurde het wetsvoorstel dit voorjaar goed en de gouverneur tekende het in de wet. Toch diende xAI pas op 27 juli een rechtszaak in — ongeveer drie maanden later en slechts dagen voor de handhavingsdatum van 1 augustus. Het bedrijf vroeg vervolgens op 29 juli een tijdelijk bevel tot beperking aan, dat rechter Frank op 31 juli afwees.

Die timing werkte tegen xAI. "Als xAI oprecht onherstelbare schade vreesde, twijfelt de rechtbank er niet aan dat het sneller actie zou hebben ondernomen om deze zaak aan te spannen en injunction-verlichting te vragen," schreef Frank.

Met andere woorden, een bedrijf dat catastrofale boetes probeert te vermijden, wacht niet tot de vooravond van handhaving om hulp bij de rechtbank te zoeken.

Reikwijdte van de wet en de boetes

De wet, bekend als HF 1606, is de eerste van zijn soort in de Verenigde Staten. Het verbiedt een aanbieder om gebruikers realistische afbeeldingen te laten genereren die intieme lichaamsdelen toevoegen die afwezig zijn op een originele foto van een identificeerbare persoon, en om zo'n afbeelding namens een gebruiker te produceren. Elke overtreding carries een civiele boete tot $500.000, en afgebeelde personen kunnen hun eigen schadeclaims indienen.

De federale Take It Down Act en een Texaanse wet uit 2025 gericht op deepfakes hangen beide af van of de maker wist dat het beeld niet-consensueel was. Minnesota verwijderde die vereiste volledig, wat betekent dat een aanbieder aansprakelijk kan worden gesteld zelfs zonder kennis dat een naaktbeeld werd gemaakt. Die bepaling vormt de kern van het bezwaar van xAI. Het wetsvoorstel werd door het Huis met 132-1 en de Senaat met 65-0 aangenomen na berichten over een man die socialemedia-foto's gebruikte om seksuele beelden te fabriceren van meer dan 80 vrouwen die hij kende.

Het strict-liability-ontwerp is van belang buiten Minnesota. Omdat de boetestruktuur per afbeelding geen ruimte laat voor een aanbieder om te beweren onbekend te zijn met specifieke overtredingen, kunnen andere staten die toekijken hoe rechtbanken HF 1606 behandelen toekomstige AI-inhoudswetten modelleren naar de aanpak — of ervan afzien als de uitdaging in hoger beroep slaagt.

De schaal achter Grok Imagine

Minnesotas minister van justitie Keith Ellison, die de wet verdedigde, noemde de uitspraak een overwinning voor de inwoners van de staat. "Ik ben uiterst trots om deze wet te verdedigen, en daarmee de waardigheid van de mensen van Minnesota," zei hij, eraan toevoegend dat de wet producten zoals xAI's Grok Imagine blijft blokkeren van het genereren van gesexualiseerde afbeeldingen.

Volgens een rapport aangehaald in de uitspraak genereerde Grok ongeveer 3 miljoen gesexualiseerde afbeeldingen in de 11 dagen na de lancering van een nieuwe beeldbewerkingsfunctie, waaronder ruwweg 23.000 die kinderen leken af te beelden. Cryptopolitan berichtte eerder dat xAI, zijn staat van dienst verdedigend, zei dit jaar 52.222 accounts te hebben geschorst en 73.604 meldingen te hebben ingediend bij het National Center for Missing and Exploited Children.

xAI's advocaten hebben nu aankondiging gedaan dat ze het 8th Circuit Court of Appeals zullen vragen de afwijzing van de injunction te herzien. In eerdere argumenten stelde het bedrijf voor de functies voor gebruikers in Minnesota te schorsen in plaats van boetes te riskeren. Het beroep betekent dat de onderliggende grondwettelijke vragen naar een hogere rechtbank gaan, waarbij de uiteindelijke behandeling van de injunction door het Eighth Circuit — en de einduitspraak in de zaak van de districtsrechtbank — bepalen hoeveel van de wet in de praktijk overleeft.