La renuncia de un investigador de una de las empresas de inteligencia artificial más destacadas del mundo, seguida de advertencias de que la tecnología podría acabar con la humanidad en una década, parece haber acelerado las acciones del Congreso en materia de seguridad de la IA.

La renuncia de Jacob Coxon a Anthropic el 8 de septiembre de 2026 ha generado impulso legislativo para establecer normas federales obligatorias, después de años de artículos académicos y debates en conferencias que produjeron avances limitados. Más de 20 miembros del Congreso han pedido públicamente una supervisión más estricta en los días posteriores. Al mismo tiempo, un grupo bipartidista de senadores impulsa una legislación que impondría un “deber de cuidado” legal a los desarrolladores de modelos de IA potentes. La propuesta trasladaría medidas de seguridad clave de los compromisos voluntarios de las empresas a obligaciones respaldadas por la ley.

El proyecto de ley y sus impulsores

Los senadores Amy Klobuchar, John Thune y Ted Cruz encabezan la iniciativa. La legislación propuesta convertiría los compromisos voluntarios de seguridad asumidos por las empresas de IA en requisitos legales exigibles.

Las disposiciones centrales del proyecto exigirían que los sistemas avanzados de IA se sometan a pruebas de seguridad antes de su lanzamiento. También establecería auditorías independientes de terceros y obligaciones estandarizadas de presentación de informes por parte de los desarrolladores. Además, la propuesta otorgaría al gobierno la facultad de intervenir y bloquear el lanzamiento de modelos de IA considerados peligrosos. Estas disposiciones convertirían las pruebas, la revisión externa y la divulgación en condiciones centrales para lanzar los sistemas más potentes.

Según las normas propuestas, las empresas que desarrollen modelos de IA de frontera tendrían un deber formal de cuidado. Podrían enfrentar consecuencias legales si sus sistemas causaran daños y las empresas no hubieran tomado precauciones razonables.

OpenAI ha apoyado públicamente la adopción de estándares nacionales obligatorios de seguridad y protocolos sólidos de pruebas. Esta postura es relevante porque la empresa estaría directamente sujeta a los requisitos propuestos.

Las preocupaciones que impulsan el debate

Evan Hubinger, otro investigador de Anthropic, ha estimado públicamente que existe una probabilidad superior al 10% de que ocurra un evento de extinción causado por la IA en la próxima década.

Anthropic también ha publicado un informe de amenazas que cuestiona la seguridad de algunos de sus modelos de IA más recientes, particularmente por su posible capacidad para ayudar en el desarrollo de armas biológicas.

Obstáculos legislativos

Varios legisladores han advertido que será difícil redactar normas técnicamente sólidas para una tecnología que evoluciona más rápido de lo que el Congreso puede programar audiencias. Las elecciones legislativas de noviembre añaden otra complicación. Algunos miembros podrían mostrarse reacios a votar sobre un marco regulatorio técnicamente complejo mientras hacen campaña para ser reelegidos.

Por lo tanto, la siguiente etapa del debate se centrará en si los legisladores pueden definir estándares viables de pruebas, auditorías, informes e intervención antes de que el calendario electoral limite las acciones. Hasta que se resuelvan esos detalles, la propuesta seguirá siendo un esfuerzo para establecer requisitos federales de seguridad exigibles, no un marco regulatorio operativo.

Fuente: CryptoBriefing