Anthropic presentó a los legisladores de EE. UU. un proyecto de legislación federal que restringiría drásticamente cuándo las autoridades pueden bloquear modelos avanzados de inteligencia artificial, en medio de una creciente preocupación por la seguridad de la IA mientras el Congreso considera nuevas reglas de supervisión. El proyecto llega cuando varios esfuerzos de supervisión de IA en el Congreso ya están en curso, lo que brinda a los legisladores un punto de referencia redactado por una empresa en ese debate.

Según lo informado, la propuesta confidencial establece un umbral de daño de 1.000 millones de dólares, o un riesgo que involucre más de 50 víctimas graves, como condiciones para la intervención del gobierno. Anthropic confirmó que el proyecto refleja su Advanced AI Framework, publicado en junio, que propone pruebas independientes y supervisión gubernamental.

Según el proyecto, evaluadores independientes evaluarían periódicamente los modelos de IA frontera y deberían reportar amenazas de seguridad que califiquen a las autoridades federales dentro de las 72 horas. La propuesta también prevalecería sobre ciertas regulaciones estatales de IA, al tiempo que impondría reportes públicos de transparencia y protecciones para denunciantes a los desarrolladores.

El proyecto de Anthropic establece límites a la intervención gubernamental

El proyecto permitiría a las autoridades detener un modelo avanzado de IA solo cuando represente un peligro previsible e inminente. El riesgo debe involucrar armas biológicas, ciberataques o un sistema de IA que escape al control de su desarrollador.

Bajo la propuesta, la intervención federal requeriría un daño potencial superior a 1.000 millones de dólares o daños graves a más de 50 personas. El Departamento de Comercio primero evaluaría el peligro antes de solicitar a un juez federal la suspensión del lanzamiento o uso del modelo. Solo el Tribunal de Distrito de EE. UU. para el Distrito de Columbia podría autorizar dicha suspensión bajo el marco propuesto, y otras agencias federales generalmente carecerían de autoridad bajo el proyecto para detener de forma independiente el desarrollo, despliegue o uso interno de modelos. Ese diseño canalizaría la intervención a través de un solo departamento y un solo tribunal, una vía más limitada que los poderes de revisión gubernamental más fuertes que algunos senadores han defendido.

La legislación exigiría que los desarrolladores de IA frontera se sometan a evaluaciones periódicas por parte de evaluadores independientes registrados ante el Departamento de Comercio. Las empresas podrían pagar a los evaluadores por sus servicios, pero la compensación no podría depender del resultado de esas evaluaciones.

Los evaluadores que identifiquen una amenaza inminente que califique tendrían 72 horas después de completar su evaluación para notificar al Departamento de Comercio. Los desarrolladores enfrentarían requisitos sobre marcos de seguridad, reporte de incidentes, transparencia pública y protecciones para denunciantes.

La propuesta sigue los acuerdos previos de Anthropic para pruebas independientes de seguridad de IA. En septiembre, la empresa anunció una alianza de evaluación con Accenture para evaluar modelos avanzados y fortalecer las salvaguardas.

La propuesta de Anthropic podría prevalecer sobre algunas leyes estatales de seguridad de IA

El proyectoalecería sobre ciertos requisitos estatales sobre divulgación de riesgos, evaluaciones independientes y reportes de incidentes graves de seguridad de IA. Esta disposición aborda los diferentes requisitos de cumplimiento que están surgiendo en los estados de EE. UU., particularmente California y Nueva York.

Reemplazar los requisitos estatales por reglas federales ha dividido a los legisladores sobre el nivel adecuado de supervisión de la IA. Algunos demócratas se oponen a propuestas que podrían debilitar las protecciones estatales existentes, mientras que los grupos industriales favorecen requisitos nacionales uniformes. El resultado ayudaría a determinar si los desarrolladores frontera operan bajo un estándar federal único o un panorama de cumplimiento estado por estado.

El debate sigue a pruebas de seguridad anteriores con agentes de IA avanzados. Esas pruebas registraron casos en los que sistemas de IA realizaron acciones no autorizadas, generando preguntas sobre los controles de los desarrolladores y la adecuación de las evaluaciones independientes.

Anthropic documentó previamente intentos de uso indebido de sus modelos para investigación biológica y ciberataques. Su informe de septiembre sobre uso indebido de IA describió solicitudes bloqueadas y salvaguardas adicionales introducidas para hacer frente a esas amenazas.

En el Congreso, los representantes Lori Trahan y Jay Obernolte han impulsado la FRONTIER Act, que aborda los despliegues peligrosos de IA. Los senadores John Thune, Amy Klobuchar y Ted Cruz han discutido por separado legislación sobre riesgos catastróficos e intervención federal.

La senadora Maria Cantwell y otros legisladores han presionado por poderes de revisión gubernamental más fuertes que los que ofrecen algunas propuestas en competencia. Mientras tanto, el senador Bernie Sanders y el representante Greg Casar han apoyado restricciones más amplias al desarrollo de sistemas avanzados de IA.

Anthropic no ha respaldado públicamente ningún proyecto de ley en particular del Congreso, y su propuesta no se ha convertido en ley. Los legisladores aún no han anunciado si presentarán el proyecto de la empresa como legislación formal.