El fiscal general de Minnesota, Keith Ellison, presentó el viernes un escrito en oposición al intento de xAI de bloquear la HF 1606, la primera ley del país en restringir herramientas de IA que generan imágenes sexuales de personas identificables, informó Decrypt.

Ellison argumentó que es poco probable que la empresa tenga éxito en su reclamo constitucional y que no ha demostrado que la aplicación de la ley causaría un daño irreparable.

"Con Grok Imagine, X.AI ha creado un mercado sin precedentes para la violencia sexual digital, y el estado quedaría indefenso desde el principio a menos que pudiera dirigir sus leyes hacia la tecnología misma", dijo Ellison.

El argumento de Minnesota es que Grok Imagine es una herramienta y no discurso protegido, lo que la sacaría de las consideraciones que xAI ha pedido al juez examinar. Un juez federal celebrará una audiencia sobre el asunto el miércoles.

La ley de Minnesota apunta a los proveedores de IA incluso sin conocimiento o intención

La HF 1606 prohíbe que una empresa permita a los usuarios generar imágenes realistas que muestren partes íntimas que no estaban en la fotografía original de una persona identificable, y que produzca dicha imagen en nombre de un usuario. Las infracciones conllevan sanciones de hasta $500,000 por imagen, y las personas retratadas pueden demandar por separado.

La ley no exige que una empresa supiera de la imagen o tuviera la intención de crearla. La mayoría de las leyes sobre deepfakes, incluida la federal Take It Down Act, sancionan a quien crea o comparte la imagen. Texas contactó a operadores en 2025, pero solo cuando el propietario sabía de la falta de consentimiento o no respondía a una notificación de retiro. Minnesota eliminó el elemento del conocimiento, y esa es la disposición que xAI impugna el miércoles.

La Cámara de Minnesota aprobó el proyecto por 132-1 y el Senado por 65-0, tras reportes de un hombre que usó fotos de redes sociales para crear imágenes sexuales de más de 80 mujeres que conocía. La ley fue firmada en abril. xAI demandó el 27 de julio y solicitó una orden de restricción temporal el 29 de julio.

El 31 de julio, el juez Donovan Frank rechazó la petición, señalando que la empresa había presentado la demanda casi tres meses después de la firma y tres días antes de la fecha de entrada en vigor, lo que indicaba que "el daño no es inmediato". La ley entró en vigor el 1 de agosto.

xAI dice que las reglas de Minnesota podrían criminalizar la sátira y las imágenes consensuadas

La demanda no cuestiona el interés del estado en prevenir imágenes no consentidas. En cambio, sostiene que la ley va mucho más allá de ese interés, y la disputa gira en torno a una definición. Según xAI, Minnesota basó su definición de parte íntima en una disposición destinada a delitos que implican contacto corporal, y esa definición abarca la parte interna de los muslos y los pechos, incluyendo así imágenes en traje de baño y sátira.

La página 19 del escrito contiene una imagen generada por IA que Trump compartió en Truth Social el 1 de mayo, en la que se le ve con JD Vance, Marco Rubio y el secretario del Interior Doug Burgum sin camisa, junto con una mujer no identificada, en el Lincoln Memorial Reflecting Pool, una broma sobre el costo de las reparaciones de la piscina. xAI argumenta que el pecho de cada hombre aparece donde antes no estaba, lo que hace que la imagen sea ilegal en Minnesota.

"Incluso si los sujetos dieron su consentimiento, generaron las imágenes ellos mismos o nunca las compartieron, no existe un refugio seguro para los esfuerzos de buena fe del proveedor de herramientas creativas de IA de uso general", dijo la empresa.

Según sus propios cálculos, diez imágenes de ese tipo costarían $5 millones y cien mil alcanzarían $50 mil millones.

El historial de aplicación de Grok destaca la magnitud del problema de abuso

La empresa ha ofrecido su historial de cumplimiento como prueba de buena fe. Como informó anteriormente Cryptopolitan, xAI dijo en una presentación de julio que suspendió 52,222 cuentas este año y envió 73,604 reportes al National Center for Missing and Exploited Children, lo que produjo al menos 244 arrestos en 2026.

Esas cifras también son una medida de escala. Según el Center for Countering Digital Hate, en el lapso de 11 días entre el 29 de diciembre y el 8 de enero, después del respaldo de Musk a la función de edición de la aplicación, Grok creó alrededor de 3 millones de imágenes sexualmente explícitas, incluidas unas 23,000 que parecían mostrar a niños.

California abrió una investigación el 14 de enero y envió una orden de cese y desistimiento dos días después. Treinta y cinco fiscales generales firmaron una exigencia conjunta el 23 de enero. Según Ellison, cinco niños han presentado una demanda colectiva y dos familias de Arkansas han presentado una demanda en un tribunal federal.

La Comisión Europea inició una investigación el 27 de enero, y el chatbot ha sido prohibido en Malasia e Indonesia.