Il procuratore generale del Minnesota Keith Ellison ha presentato venerdì una memoria per opporsi al tentativo di xAI di bloccare HF 1606, la prima legge dello Stato nel suo genere che limita gli strumenti di IA che generano immagini sessuali di persone identificabili, ha riferito Decrypt.

Ellison ha sostenuto che l’azienda ha poche probabilità di avere successo sulla sua rivendicazione costituzionale e non ha dimostrato che l’applicazione della legge causerebbe un danno irreparabile.

"Con Grok Imagine, X.AI ha creato un mercato senza pari per la violenza sessuale digitale, e lo Stato sarebbe indifeso fin dall’inizio a meno che non potesse indirizzare le proprie leggi alla tecnologia stessa", ha detto Ellison.

La posizione del Minnesota è che Grok Imagine sia uno strumento e non un’espressione protetta, il che lo escluderebbe dalle considerazioni che xAI ha chiesto al giudice di esaminare. Un giudice federale terrà un’udienza sulla questione mercoledì.

La legge del Minnesota prende di mira i fornitori di IA anche senza conoscenza o intenzione

HF 1606 vieta a un’azienda di consentire agli utenti di generare immagini realistiche che mostrino parti intime assenti dalla fotografia originale di una persona identificabile, e di produrre una simile immagine per conto di un utente. Le violazioni comportano sanzioni fino a 500.000 dollari per immagine, e le persone ritratte possono agire separatamente in giudizio.

La norma non richiede che l’azienda sapesse dell’immagine o avesse l’intenzione di crearla. La maggior parte delle leggi sui deepfake, incluso il Take It Down Act federale, sanziona chiunque realizzi o condivida l’immagine. Il Texas ha contattato gli operatori nel 2025, ma solo quando il proprietario era consapevole dell’assenza di consenso o non rispondeva a una richiesta di rimozione. Il Minnesota ha eliminato l’elemento della conoscenza, ed è questa la disposizione contestata da xAI mercoledì.

La Camera del Minnesota ha approvato il disegno di legge con 132 voti a 1 e il Senato con 65 a 0, dopo segnalazioni di un uomo che aveva usato foto sui social media per creare immagini sessuali di oltre 80 donne che conosceva. La legge è stata firmata ad aprile. xAI ha intentato causa il 27 luglio e ha chiesto un’ordinanza restrittiva temporanea il 29 luglio.

Il 31 luglio, il giudice Donovan Frank ha respinto la richiesta, osservando che l’azienda aveva presentato il ricorso quasi tre mesi dopo la firma e tre giorni prima della data di entrata in vigore, indicando che "il danno non è immediato". La legge è entrata in vigore il 1 agosto.

xAI sostiene che le regole del Minnesota potrebbero criminalizzare satira e immagini consensuali

Il ricorso non contesta l’interesse dello Stato nel prevenire immagini non consensuali. Sostiene invece che la norma vada ben oltre tale interesse, e la disputa ruota attorno a una definizione. Secondo xAI, il Minnesota ha basato la definizione di parte intima su un provvedimento pensato per reati che comportano contatto fisico, e tale definizione comprende la parte interna delle cosce e i seni, includendo quindi immagini in costume da bagno e satira.

La pagina 19 dell’istanza contiene un’immagine generata dall’IA che Trump aveva condiviso su Truth Social il 1 maggio, in cui appare con JD Vance, Marco Rubio e il segretario degli Interni Doug Burgum a torso nudo, insieme a una donna non identificata, nello specchio d’acqua del Lincoln Memorial, una battuta sul costo delle riparazioni della piscina. xAI sostiene che il petto di ciascun uomo sia raffigurato dove prima non c’era, rendendo l’immagine illegale in Minnesota.

"Anche se i soggetti avessero dato il loro consenso, avessero generato loro stessi le immagini o non le avessero mai condivise, non esiste alcun rifugio sicuro per gli sforzi in buona fede del fornitore di strumenti creativi IA di uso generale", ha detto l’azienda.

Secondo i calcoli della stessa xAI, dieci immagini di questo tipo costerebbero 5 milioni di dollari e centomila arriverebbero a 50 miliardi di dollari.

Il record di enforcement di Grok evidenzia la portata del problema degli abusi

L’azienda ha presentato il proprio storico di conformità come prova di buona fede. Come riportato in precedenza da Cryptopolitan, xAI ha detto in un documento depositato a luglio di aver sospeso 52.222 account quest’anno e di aver inviato 73.604 segnalazioni al National Center for Missing and Exploited Children, portando ad almeno 244 arresti nel 2026.

Questi numeri sono anche una misura della scala del problema. Secondo il Center for Countering Digital Hate, nell’arco di 11 giorni tra il 29 dicembre e l’8 gennaio, dopo l’endorsement di Musk della funzionalità di editing dell’app, Grok ha creato circa 3 milioni di immagini sessualmente esplicite, incluse circa 23.000 che sembravano raffigurare bambini.

La California ha aperto un’indagine il 14 gennaio e ha inviato una diffida due giorni dopo. Trentacinque procuratori generali hanno firmato una richiesta congiunta il 23 gennaio. Secondo Ellison, cinque bambini hanno presentato una class action, e due famiglie dell’Arkansas hanno intentato causa in tribunale federale.

La Commissione europea ha avviato un’indagine il 27 gennaio, e il chatbot è stato vietato in Malesia e in Indonesia.