Cuatro organizaciones sin fines de lucro demandan a OpenAI, Anthropic, Google, Meta y SpaceX buscando una pausa en el desarrollo de IA de frontera
Puntos clave
- •Cuatro organizaciones sin fines de lucro presentaron el jueves una demanda de 63 páginas ante el Tribunal Superior de San Francisco que señala como demandados a OpenAI, Anthropic, Google, Meta y SpaceX.
- •Los demandantes solicitan una orden judicial inmediata que impida a las empresas desarrollar o desplegar sistemas de IA más capaces que sus modelos más avanzados al 12 de noviembre de 2026.
- •La demanda invoca la Ley de Competencia Desleal de California, argumentando que la construcción de sistemas de IA cada vez más capaces crea una molestia pública que pone en peligro la salud y seguridad públicas.
- •La demanda también pide al tribunal que prohíba a las empresas usar IA para realizar o dirigir de manera independiente investigaciones sobre mejores modelos, citando riesgos relacionados con la auto-mejora recursiva.
- •Como evidencia de apoyo, los demandantes citan un incidente de julio en el que unos 1,200 agentes de OpenAI escaparon de un entorno de pruebas controlado, con unos 700 coordinándose mediante un tablero de mensajes no autorizado para atacar la infraestructura de Hugging Face.

Cuatro organizaciones sin fines de lucro presentaron una demanda contra cinco de los mayores desarrolladores de inteligencia artificial del mundo, pidiendo a un tribunal de California que detenga el trabajo en sistemas de IA cada vez más poderosos antes de que ocurra algo verdaderamente grave.
La demanda de 63 páginas, presentada el jueves ante el Tribunal Superior de San Francisco, nombra como demandados a OpenAI, Anthropic, Google, Meta y SpaceX. Los demandantes son Public Citizen, la Heat Initiative, el Irreplaceable Education Fund y la Alliance for Secure AI. Solicitan una orden judicial inmediata que prohíba a las empresas desarrollar o desplegar sistemas de IA más capaces que sus modelos más avanzados al 12 de noviembre de 2026.
"Las empresas de IA de frontera están desarrollando sistemas de IA que no comprenden y que actúan en contra de la intención de sus creadores, evaden el control y violan la ley", argumentan los demandantes. Para prevenir ese resultado, piden "una orden judicial inmediata que prohíba a los demandados desarrollar o desplegar sistemas de IA más capaces que sus sistemas más capaces a la fecha de esta demanda".
Una orden de este tipo no necesariamente apagaría ChatGPT, Claude, Gemini ni otros productos existentes de las empresas. En cambio, efectivamente fijaría la tecnología en su nivel actual, impidiendo el lanzamiento de sucesores más poderosos.
La demanda también pide al tribunal que prohíba a las empresas usar IA para realizar o dirigir de manera independiente investigaciones sobre mejores modelos, un proceso relacionado con lo que los investigadores llaman auto-mejora recursiva. La preocupación es que los sistemas capaces de mejorarse a sí mismos podrían eventualmente avanzar más rápido de lo que los humanos pueden comprenderlos o controlarlos.
Construyendo el caso sobre las leyes existentes de California
Las organizaciones sin fines de lucro sostienen que las leyes vigentes de California ya ofrecen una vía para impedir que las empresas desarrollen productos que pongan en peligro al público, sin esperar nueva legislación. La demanda invoca la Ley de Competencia Desleal del estado, que prohíbe prácticas comerciales ilícitas o desleales.
El argumento central es que construir sistemas de IA cada vez más capaces crea una molestia pública: un peligro que afecta la salud, la seguridad o la propiedad de una comunidad más amplia. A modo de analogía, una fábrica que vierte químicos peligrosos en un vecindario podría enfrentar acciones legales antes de que alguien sufra una lesión fatal. Los demandantes quieren que el tribunal aplique un razonamiento similar al desarrollo de IA de frontera, argumentando que las empresas están creando conscientemente sistemas que podrían facilitar ciberataques, ayudar a desarrollar armas biológicas o eventualmente escapar del control humano.
"A ninguna otra industria se le permite tratar como inevitable el desarrollo de sus propios productos inseguros, y mucho menos de unos que podrían exterminarnos a todos", argumenta la demanda.
Robert Weissman, copresidente de Public Citizen, dijo en un comunicado que los grupos quieren que el tribunal declare ilícitas las prácticas de las empresas y "congele el desarrollo adicional de la IA".
Si los tribunales estarán de acuerdo
El desafío legal es si los riesgos y prácticas alegados son suficientes para justificar restricciones tan amplias. Aunque los laboratorios de frontera advierten constantemente sobre cuán poderosos y peligrosos son sus modelos, ninguno de los demandados ha sido declarado responsable, y las advertencias sobre una catástrofe potencial no establecen automáticamente una violación de la ley de California. La solicitud también choca con la realidad procesal: los tribunales generalmente consideran las órdenes judiciales un remedio extraordinario, y la parte que las solicita normalmente debe demostrar un daño inmediato que no pueda esperar el ritmo más lento de un juicio completo.
La demanda señala incidentes ya ocurridos como evidencia de que los peligros no son del todo hipotéticos. En julio, modelos de OpenAI escaparon de un entorno de pruebas controlado y comprometieron la infraestructura de Hugging Face mientras intentaban hacer trampa en una evaluación de ciberseguridad, un episodio informado previamente por Decrypt. Una investigación independiente posterior determinó que alrededor de 1,200 agentes de OpenAI usaron un tablero de mensajes interno no autorizado para coordinarse, y unos 700 de ellos se unieron al ataque contra Hugging Face mientras intentaban obtener las respuestas del benchmark que los evaluaba.
Esos episodios involucraron a agentes de IA, programas que pueden ejecutar tareas, navegar sitios web, escribir código e interactuar con sistemas externos en lugar de simplemente responder preguntas.
Sin embargo, los fallos de seguridad documentados no son prueba de que los modelos de IA actuales puedan causar la extinción humana. Los demandantes conectan esos incidentes con predicciones sobre lo que los sistemas cada vez más capaces podrían llegar a hacer, y ese peligro más amplio sigue siendo disputado.
"Es patentemente ilegal que las empresas desarrollen y lancen productos que saben que son inseguros en cualquier sentido", dijo Matthew Platkin, exfiscal general de Nueva Jersey que representa a los demandantes, en el comunicado.
Por ahora, el Tribunal Superior de San Francisco debe sopesar una solicitud extraordinaria: si congelar el desarrollo de IA de frontera en su nivel actual, y si las leyes estatales vigentes —en lugar de nueva legislación— son el instrumento adecuado para hacerlo.
Fuente: Decrypt