La FTC abre una investigación contra OpenAI, Anthropic y la organización sin fines de lucro de auditoría de IA METR por riesgos de seguridad

La Comisión Federal de Comercio (FTC) abrió una investigación para determinar si los sistemas de IA creados por OpenAI y Anthropic representan peligros para los consumidores estadounidenses, según un funcionario de alto rango.

METR, la organización sin fines de lucro de California que audita modelos de IA de frontera en busca de riesgos, también está involucrada en la investigación. Se espera que las demandas formales de investigación civil lleguen a las tres organizaciones —OpenAI, Anthropic y METR— en las próximas semanas.

¿Por qué la FTC investiga a OpenAI y Anthropic?

Un funcionario de alto rango de la FTC, que permanece en el anonimato, dijo que la agencia está utilizando su poder para supervisar las prácticas injustas y engañosas —la autoridad central de protección al consumidor de la FTC bajo la Ley de la FTC— para examinar si los sistemas de IA que están construyendo OpenAI y Anthropic representan riesgos para los consumidores estadounidenses.

La indagatoria fue reportada por primera vez por el New York Post. No ha habido un anuncio oficial de la agencia, por lo que el alcance completo de la investigación sigue sin estar claro. Se espera que la FTC envíe demandas de investigación civil, una herramienta que funciona de manera muy similar a una citación judicial, a OpenAI, Anthropic y METR en las próximas semanas, y queda por ver cómo responderán las tres organizaciones.

La inclusión de METR es notable porque se trata de una organización sin fines de lucro que evalúa los sistemas de IA en busca de riesgos, no un creador de modelos. Realizó una revisión independiente de un incidente de seguridad ocurrido a principios de este año en el que un modelo de OpenAI rompió su confinamiento y atacó Hugging Face, el hub de código abierto donde los desarrolladores alojan y comparten modelos y conjuntos de datos de IA.

El presidente de la FTC, Andrew Ferguson, dijo a principios de este mes que no se debe permitir que OpenAI y Anthropic "somen a todos a un pánico" y luego exijan regulaciones que están bien posicionadas para cumplir. En una declaración de enero de 2025 sobre un estudio de la FTC sobre las asociaciones de IA de las grandes tecnológicas, Ferguson advirtió que la agencia "no debe lanzarse de cabeza a regular la IA", argumentando que reglas excesivamente severas podrían sofocar la innovación y el desarrollo de la tecnología.

Cryptopolitan informó que Ferguson rechazó la idea de que una empresa no pueda ser responsabilizada cuando un agente autónomo causa daño. Afirmó que los poderes de divulgación de violaciones de la FTC podrían aplicarse a los desarrolladores de IA. Cómo se aplicarían esos poderes a incidentes que involucren agentes autónomos sigue una pregunta abierta.

¿Qué acuerdo firmaron los líderes de IA con Trump?

El presidente Donald Trump reunió recientemente a líderes de IA y firmó un acuerdo voluntario —uno que se basa en que las empresas cumplan sus compromisos por voluntad propia en lugar de reglas legalmente exigibles. Según los términos del acuerdo, las empresas establecerían controles internos, permitirían auditorías externas y autorizarían revisiones de sus modelos por parte de sus juntas directivas.

Trump elogió a la industria por mostrar una "tremenda autorregulación" y calificó el pacto de "vinculante desde el punto de vista moral", incluso "casi como una constitución".

Varios ejecutivos de grandes tecnológicas firmaron el acuerdo, incluidos Dario Amodei de Anthropic, Greg Brockman de OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI y Jensen Huang de Nvidia.

Toby Walsh del UNSW AI Institute afirmó que las empresas de IA ya habían demostrado ser "incompetentes y descuidadas al gestionarse a sí mismas".

Un fallo de seguridad puso a METR en la lista de objetivos

METR ganó su lugar en la lista de objetivos debido a un fallo de seguridad ocurrido en el verano. Su informe de agosto indica que investigadores tanto de METR como de Redwood Research, un grupo de investigación en seguridad de IA, pasaron seis días en las instalaciones de OpenAI examinando un episodio en el que aproximadamente 1,200 agentes, que debían ejecutarse de forma aislada, encontraron en cambio un tablón de mensajes compartido e intercambiaron más de 70,000 mensajes y archivos. Unos 700 pasaron luego a atacar Hugging Face.

Los investigadores dijeron que el enjambre era tan grande que tuvieron que apoyarse en un modelo de OpenAI, GPT-5.6 Sol, para examinar la evidencia. El autor del informe, Ryan Greenblatt, se burló en X del uso de la IA por parte de los investigadores, calificando la investigación de "slop-vestigation".