Anthropic ha estado presentando discretamente a legisladores del Capitolio un borrador de ley sobre seguridad de IA de frontera, según tres personas familiarizadas con las conversaciones privadas. La legislación propuesta permitiría al gobierno de EE. UU. bloquear un modelo de IA si representa un peligro claro e inminente de más de 50 víctimas o mil millones de dólares en daños financieros.

Según el borrador, el riesgo en cuestión debe involucrar un ciberataque, la creación o el despliegue de armas biológicas, o un modelo que haya eludido con éxito las restricciones de seguridad de su desarrollador.

La propuesta llega tras varios meses en los que los principales desarrolladores de IA reconocieron múltiples casos de agentes de IA que hackearon o pusieron a prueba las defensas de plataformas en línea. Ninguna de esas primeras brechas provocó muertes generalizadas ni pérdidas financieras catastróficas.

Las restricciones propuestas pondrían mayor énfasis en lo que los sistemas de IA avanzados pueden hacer realmente en entornos del mundo real, en lugar de depender únicamente de los compromisos de seguridad hechos por sus desarrolladores. A medida que los modelos se vuelven más capaces de escribir código, identificar vulnerabilidades de software y ejecutar tareas complejas de forma autónoma, los reguladores enfrentan el desafío de determinar cuándo las capacidades de un sistema cruzan el umbral hacia un riesgo inaceptable.

Las pruebas independientes podrían ayudar a establecer si un modelo puede eludir salvaguardas o ser usado de manera indebida para actividades dañinas antes de llegar a una audiencia más amplia. Aun así, definir una amenaza inminente sigue siendo difícil, particularmente porque las mismas capacidades que plantean riesgos de seguridad también pueden ayudar a los investigadores a identificar y corregir vulnerabilidades.

Un juez federal podría ordenar la suspensión de un modelo

En defensa del proyecto, un portavoz de Anthropic dijo que el borrador refleja las recomendaciones de seguridad presentadas en el Advanced AI Framework de la empresa, publicado en junio. En ese marco, la firma señaló que su Claude Mythos Preview ya había descubierto miles de vulnerabilidades graves, que abarcaban todos los principales sistemas operativos y navegadores web. En su momento subrayó que esta trayectoria estaba destinada a acelerarse, con un riesgo creciente de daños catastróficos en el mundo real.

El marco también impulsó un enfoque regulatorio equilibrado que permite la intervención del gobierno sin sofocar la innovación. Anthropic sostuvo que cuando un modelo de IA presenta peligros extremos, los reguladores deben tener la facultad legal para bloquearlo o imponer fuertes multas vinculadas a los ingresos globales que se multiplican con infracciones posteriores.

Hasta ahora, Anthropic no había respaldado abiertamente ningún proyecto de ley federal específico en el Congreso, aunque ha apoyado varias leyes estatales de seguridad de IA, incluidas un par en California, como la SB 53. La empresa anunció públicamente su respaldo a esa medida, promulgada el año pasado, que exige a las empresas crear y compartir sus marcos de seguridad mientras trabajan para mitigar riesgos importantes. La SB 53 también obliga a las empresas a reportar cualquier incidente de seguridad grave al estado dentro de los 15 días.

Según la propuesta de Anthropic, evaluadores externos registrados ante el Departamento de Comercio probarían rutinariamente los laboratorios y modelos de la empresa. Aunque los laboratorios pueden financiar estas evaluaciones, la compensación no puede depender los hallazgos del evaluador. Además, cualquier descubrimiento de un “riesgo enumerado inminente” deberá reportarse a las autoridades federales dentro de las 72 horas posteriores a su finalización. Si se aprueba, la propuesta extendería el impulso de Anthropic por reglas de seguridad exigibles desde los capitolios estatales hasta el nivel federal.

Si el Departamento de Comercio determina que un modelo representa un riesgo, puede pedir a un juez que bloquee su lanzamiento. Sin embargo, la disposición prohíbe a cualquier otro “departamento, agencia o funcionario” de EE. UU. detener el desarrollo, despliegue o uso interno de un modelo. No obstante, un juez federal del Distrito de Columbia conserva la autoridad para ordenar dicha suspensión.

La FTC envía citaciones a OpenAI y Anthropic

El miércoles, la Comisión Federal de Comercio envió citaciones civiles a OpenAI y Anthropic, solicitando registros sobre incidentes de seguridad que se han convertido en una crisis creciente para la industria. OpenAI respondió a la citación diciendo: “A medida que mejoramos nuestros modelos y estos ayudan cada vez más a las personas en su vida diaria, la seguridad sigue siendo una prioridad principal. Colaboraremos de manera constructiva con la FTC”.

Una fuente reveló que la agencia tiene la intención de extender su poder de citación a entidades externas en un futuro próximo. El regulador podría obligar a ejecutivos de Anthropic y OpenAI a declarar públicamente, dando a los legisladores una plataforma para cuestionar a los gigantes tecnológicos sobre seguridad a medida que crece el temor público a posibles repercusiones.

Según una encuesta reciente realizada por The Associated Press-NORC Center for Public Affairs Research, casi dos tercios de los adultos en EE. UU. creen que la IA se está desarrollando demasiado rápido. Ocho de cada diez encuestados también subrayaron la importancia de los esfuerzos del gobierno para mantener la tecnología bajo control humano. Los hallazgos esbozan el ánimo público en torno tanto a la investigación de la FTC como al impulso de Anthropic en el Capitolio.

Hasta ahora, el presidente Trump ha seguido rechazando los llamados a un ritmo más lento de desarrollo de la IA, citando la importancia de la tecnología para los intereses estratégicos de EE. UU. Recientemente reveló una “Super Intelligence Force” para ayudar a alinear los esfuerzos del gobierno federal en IA mientras mantiene la participación con consumidores, organizaciones de interés público y otros actores. Cómo encaja el borrador de Anthropic en esa postura sigue siendo una pregunta abierta.