Los negociadores del Senado de EE. UU. están considerando una legislación que exigiría a los desarrolladores de los modelos de inteligencia artificial más avanzados protegerse contra daños catastróficos y podría otorgar al gobierno federal autoridad para bloquear lanzamientos inseguros, según Reuters.

Para las principales empresas de IA, la propuesta trasladaría los estándares de seguridad de compromisos mayormente voluntarios a un deber legal. También plantea una pregunta más amplia: si una regulación más estricta generaría confianza entre consumidores e inversionistas o fortalecería la posición de las empresas con recursos suficientes para cumplirla.

De compromisos voluntarios a un “deber de cuidado”

La propuesta establecería lo que Reuters describió como un “deber de cuidado” para los desarrolladores de modelos de IA de frontera. Entre las medidas que se analizan están exigir a los desarrolladores que diseñen modelos capaces de minimizar los riesgos catastróficos, reservar el derecho del gobierno federal a bloquear modelos inseguros, permitir que las empresas apelen las decisiones gubernamentales ante los tribunales e involucrar a laboratorios nacionales y otros socios gubernamentales en las pruebas de IA.

La legislación podría prevalecer sobre algunas leyes estatales existentes que abordan los mismos temas. Entre las empresas estadounidenses identificadas por Reuters como desarrolladoras de IA de frontera están Google, a través de su empresa matriz Alphabet, Anthropic y OpenAI.

En las negociaciones participan el líder de la mayoría del Senado, John Thune; el presidente del Comité de Comercio, Ted Cruz; la senadora Amy Klobuchar; y la senadora Maria Cantwell.

Klobuchar dijo a Reuters que su objetivo era la “supervisión gubernamental de los mayores riesgos que plantean los modelos de IA”. Señaló que esa supervisión debería exigir a los desarrolladores trabajar con expertos del gobierno para verificar y probar modelos avanzados.

Cruz ha presentado una propuesta similar, centrada en algunas de las consecuencias potenciales más graves de la IA de frontera. En una publicación en X, Cruz dijo que trabajaba con Klobuchar y Thune para “abordar riesgos catastróficos relacionados con amenazas biológicas o nucleares”.

Esas preocupaciones explican por qué los negociadores se están enfocando en los modelos más capaces, en lugar de aplicar los mismos requisitos a toda la industria de la IA.

Otro tema es si las normas federales deberían reemplazar algunas restricciones a nivel estatal. Ese enfoque coincide en términos generales con el marco legislativo de IA de la administración Trump, que sostiene que un conjunto fragmentado de leyes estatales podría obstaculizar el desarrollo de la tecnología de IA en Estados Unidos y pide un marco nacional más coherente.

Por qué los legisladores ya no consideran teóricos estos riesgos

Los legisladores están respondiendo no solo a escenarios hipotéticos, sino también a incidentes en los que agentes de IA actuaron de forma autónoma y accedieron a sistemas externos, además de las preocupaciones planteadas por investigadores de importantes empresas de IA.

La IAPP informó que las negociaciones fueron impulsadas en parte por la renuncia de Jacob Coxon, exinvestigador de Anthropic, y por sus preocupaciones sobre una carrera para desarrollar IA capaz de mejorarse a sí misma.

La presión también aumenta en el Capitolio. El senador Josh Hawley investiga el papel de OpenAI en el ciberataque contra Hugging Face ocurrido en julio, mientras que el senador Bernie Sanders trabaja en un proyecto de ley destinado a pausar el desarrollo de la superinteligencia, según la IAPP.

OpenAI también pide una legislación federal exigible. En un artículo sobre políticas publicado el 9 de septiembre, Chris Lehane, director global de Asuntos Públicos de la empresa, pidió una “regulación nacional obligatoria de seguridad de la IA basada en capacidades”. La postura coloca a sectores de la industria de la IA y del Congreso del mismo lado de un debate central sobre si las salvaguardas voluntarias siguen siendo suficientes. El artículo de políticas de OpenAI está disponible aquí.

Europa ya regula sus modelos más riesgosos

Estados Unidos no estaría actuando sin precedentes internacionales. La Ley de IA de la Unión Europea impone responsabilidades adicionales a los proveedores de modelos de IA de propósito general que podrían representar riesgos sistémicos.

Esas responsabilidades incluyen la evaluación de modelos, la gestión de riesgos, la notificación de incidentes y medidas de ciberseguridad. Los modelos que superen un umbral de capacidad de cómputo de 10^25 FLOP se consideran potencialmente sistémicos. La Comisión Europea también puede clasificar como sistémico un modelo menos potente con base en otros criterios, incluidas sus capacidades o efectos.

Los costos de cumplimiento podrían favorecer a los laboratorios más grandes

Las implicaciones financieras son importantes. Goldman Sachs Research estima que la inversión mundial en IA podría alcanzar aproximadamente $1 trillion en 2026, incluidos $581 billion en Estados Unidos.

Los nuevos requisitos de pruebas, aspectos legales y documentación podrían afectar los calendarios de lanzamiento de modelos, los presupuestos de infraestructura, las valuaciones de las empresas y el momento de las ofertas públicas iniciales. También podrían beneficiar a las empresas más grandes si las firmas pequeñas no pueden absorber los costos de cumplimiento.

La tensión ya es visible en los mercados de capitales. Según Cryptopolitan, David Sacks pidió suspender la OPI de Anthropic hasta examinar las acusaciones de seguridad planteadas por Coxon. Los inversionistas de Anthropic también discutieron una valuación de aproximadamente $2 trillion, lo que convirtió la seguridad de los modelos de frontera en un tema de interés tanto para inversionistas como para reguladores.

El avance del proyecto de ley sigue siendo incierto. Reuters informó que la Cámara de Representantes tiene previsto sesionar solo durante una semana antes de las elecciones intermedias del 3 de noviembre, mientras que se espera que los senadores permanezcan tres semanas. Incluso si los negociadores llegan a un acuerdo, el número limitado de días legislativos restantes podría convertirse en un obstáculo importante para la aprobación del proyecto. Los próximos acontecimientos clave serán si los negociadores acuerdan el alcance del deber, la autoridad del gobierno federal para bloquear lanzamientos, el papel de las leyes estatales y el proceso de pruebas y apelaciones antes de que se cierre el periodo legislativo restante.