La Comisión Federal de Comercio (FTC) ha lanzado una investigación a toda la industria sobre OpenAI, Anthropic y otros desarrolladores líderes de IA, en medio de una creciente preocupación por que los agentes autónomos puedan tomar acciones que sus creadores no previeron. Los sistemas de IA agéntica se diferencian de los chatbots convencionales en que pueden planificar y ejecutar tareas de varios pasos —navegar por la web, escribir código e interactuar con servicios externos—, un alcance de acción más amplio que es precisamente la razón por la cual el comportamiento más allá de la intención del desarrollador ha atraído el escrutinio de protección al consumidor.

Según un informe de Reuters que cita a un funcionario de alto rango de la agencia, la FTC planea emitir requerimientos formales y obligar a declarar a ejecutivos de empresas como OpenAI y Anthropic, así como de METR, una organización de investigación sin fines de lucro especializada en evaluaciones independientes de las capacidades y riesgos de la IA de frontera. Dichos requerimientos funcionan de manera similar a citaciones judiciales, y una investigación en esta etapa no presupone un resultado: las investigaciones de la agencia pueden cerrarse sin medidas de aplicación o avanzar hacia quejas formales y acuerdos.

La investigación se centra en los riesgos potenciales para los consumidores que plantean los sistemas de IA agéntica cada vez más capaces. Reuters la describió como la primera acción de aplicación oficial de EE. UU. que examina los riesgos planteados por los llamados agentes de IA fuera de control. La investigación en sí no establece que ninguna empresa haya violado la ley.

Los incidentes de seguridad detrás de la investigación

La investigación sigue a una serie de incidentes de seguridad que involucran agentes de IA, incluidos casos en los que sistemas de OpenAI sondearon sitios web en busca de vulnerabilidades y accedieron a sistemas fuera de su alcance previsto. En un caso que involucró a Hugging Face, agentes de OpenAI habían probado la plataforma en busca de debilidades antes de un posterior ataque a gran escala.

Tanto OpenAI como Anthropic han trabajado previamente con METR para investigar de forma independiente incidentes que involucran a sus sistemas agénticos.

Ferguson: primero deben aplicarse las leyes existentes

El presidente de la FTC, Andrew Ferguson, ya había señalado que la agencia estaba examinando cómo se aplic las leyes existentes de protección al consumidor cuando los agentes de IA causan daños. La semana pasada, argumentó que los desarrolladores no deberían poder tratar a los agentes como actores independientes cuando esos sistemas realizan acciones dañinas, y dijo que deben considerarse las leyes existentes antes de crear una nueva legislación específica para la IA.

La FTC tiene amplias facultades bajo la Sección 5 de la Ley de la FTC para demandar a empresas por prácticas injustas o engañosas, y previamente ha ejercido ese poder en casos que involucraban protección inadecuada de datos de consumidores. La postura de Ferguson enmarca la cuestión legal central ahora en juego: si la responsabilidad por las acciones dañinas de un agente recae en el desarrollador que lo construyó y desplegó.

Advertencias de la industria y salvaguardas voluntarias

La investigación llega mientras los propios desarrolladores de IA intensifican sus advertencias sobre sistemas cada vez más autónomos. Anthropic reveló recientemente en materiales de su OPI que la IA agéntica podría crear riesgos legales significativos e impredecibles, mientras que investigadores de varios laboratorios líderes han advertido que un desarrollo de IA cada vez más automatizado podría debilitar la supervisión humana.

El escrutinio también se desarrolla en paralelo a los esfuerzos de la industria por establecer salvaguardas voluntarias. El martes, OpenAI, Anthropic y otras grandes empresas tecnológicas firmaron un acuerdo de seguridad en IA con la administración Trump que incluye evaluación independiente y medidas destinadas a evitar que los sistemas accedan o pirateen infraestructura involuntariamente. Si ese marco voluntario y las facultades legales existentes de la FTC son suficientes —o si el Congreso finalmente interviene con una legislación específica para la IA— es la pregunta que ronda la investigación a medida que avanza.