Un juez federal ha ratificado la prohibición de Minnesota sobre las herramientas de IA capaces de transformar fotografías de personas reales en imágenes y medios desnudos, rechazando una solicitud de xAI, empresa de Elon Musk, para suspender la ley mientras avanza su desafío basado en la libertad de expresión. La decisión permite que los reguladores comiencen de inmediato a imponer multas de hasta $500,000 por imagen.

El juez de distrito de EE. UU. Donovan Frank denegó la solicitud de xAI de una medida cautelar preliminar, una orden que habría pausado la ley hasta la conclusión del litigio. Al sopesar lo que llamó el «balance de daños», Frank concluyó que el «interés público se inclina marcadamente a favor del Estado», según un memorando citado por CBS Minnesota.

El juez describió la medida como un «estatuto civil destinado a proteger al público del daño indiscutible que emana de la tecnología de desnificación por IA» y señaló que fue aprobada «democrática y casi unánimemente». Al mismo tiempo, reconoció que las cuestiones subyacentes de la Primera Enmienda siguen siendo complejas dada la novedad de la tecnología, expresando confianza en que los temas se resolverán a medida que avance el caso. Por ahora, la prohibición se mantiene vigente. El caso se sitúa en el centro de una cuestión legal más amplia aún sin resolver: si generar imágenes sintéticas a partir de instrucciones de los usuarios constituye discurso protegido para los proveedores de IA, un tema que los tribunales apenas han comenzado a abordar mientras los estados compiten por regular los deepfakes y las imágenes no consentidas.

La presentación de última hora debilita el caso de xAI

La legislatura de Minnesota aprobó el proyecto de ley esta primavera y el gobernador lo firmó como ley. Sin embargo, xAI no presentó la demanda hasta el 27 de julio, aproximadamente tres meses después y solo días antes de la fecha de aplicación del 1 de agosto. La empresa solicitó luego una orden de restricción temporal el 29 de julio, que el juez Frank denegó el 31 de julio.

Ese calendario jugó en contra de xAI. «Si xAI realmente temía un daño irreparable, el Tribunal no duda de que habría actuado con mayor rapidez para presentar esta acción y solicitar una medida cautelar», escribió Frank.

En otras palabras, una empresa que corre para evitar sanciones catastróficas no espera hasta la víspera de la aplicación de la ley para buscar ayuda judicial.

El alcance de la ley y sus sanciones

El estatuto, conocido como HF 1606, es el primero de su tipo en Estados Unidos. Prohíbe que un proveedor permita a los usuarios generar imágenes realistas que añadan partes íntimas del cuerpo ausentes en una fotografía original de una persona identificable, y también prohíbe producir dichas imágenes en nombre de cualquier usuario. Cada violación conlleva una sanción civil de hasta $500,000, y las personas que aparezcan en estas imágenes pueden presentar sus propias reclamaciones de daños y perjuicios.

La ley federal Take It Down Act y una ley de Texas de 2025 dirigida a los deepfakes dependen ambas de si el creador sabía que la imagen no era consentida. Minnesota eliminó por completo ese requisito, lo que significa que un proveedor puede ser responsable incluso sin saber que se creó una imagen de desnudo. Esa disposición es el núcleo de la objeción de xAI. El proyecto de ley fue aprobado por la Cámara con 132 votos a favor y 1 en contra, y por el Senado con 65 a favor y 0 en contra, tras los reportes de un hombre que utilizó fotografías de redes sociales para fabricar imágenes sexuales de más de 80 mujeres que conocía.

El diseño de responsabilidad estricta tiene importancia más allá de Minnesota. Dado que la estructura de sanciones por imagen no deja margen para que un proveedor alegue desconocimiento de violaciones específicas, otros estados que observan cómo los tribunales tratan la HF 1606 podrían modelar futuras leyes de contenido de IA según su enfoque, o alejarse de él si el desafío prospera en la apelación.

La escala detrás de Grok Imagine

El fiscal general de Minnesota, Keith Ellison, quien defendió la ley, calificó la sentencia como una victoria para los residentes del estado. «Estoy sumamente orgulloso de defender esta ley y, junto con ella, la dignidad de la gente de Minnesota», declaró, añadiendo que el estatuto sigue bloqueando que productos como Grok Imagine de xAI generen imágenes sexualizadas.

Según un reporte citado en la sentencia, Grok generó aproximadamente 3 millones de imágenes sexualizadas en los 11 días posteriores al lanzamiento de una nueva función de edición de imágenes, incluidas alrededor de 23,000 que parecían representar a menores. Cryptopolitan informó anteriormente que xAI, al defender su historial, dijo haber suspendido 52,222 cuentas este año y presentado 73,604 reportes ante el National Center for Missing and Exploited Children.

Los abogados de xAI han presentado ahora un aviso de que solicitarán al Tribunal de Apelaciones del Octavo Circuito que revise la denegación de la medida cautelar. En argumentos anteriores, la empresa había propuesto suspender funciones para los usuarios de Minnesota en lugar de arriesgarse a multas. La apelación significa que las cuestiones constitucionales subyacentes pasarán a un tribunal superior, y la forma en que el Octavo Circuito maneje eventualmente la medida cautelar —además de la sentencia final de fondo del tribunal de distrito que aún está por llegar— determinará cuánto de la ley sobrevive en la práctica.