El senador Bernie Sanders (independiente por Vermont) y el representante Greg Casar (demócrata por Texas) anunciaron el jueves una legislación para prohibir permanentemente la superinteligencia artificial y detener temporalmente el desarrollo de IA avanzada, con penas de prisión de hasta 20 años para las infracciones.

La Ley de Prohibición de la Superinteligencia Artificial suspendería el desarrollo de IA avanzada hasta que una nueva agencia federal establezca estándares de seguridad y procedimientos para la revisión de modelos de IA. Sanders acusó a las principales empresas de IA de construir tecnología que no comprenden plenamente y no pueden controlar de manera confiable.

"Por eso estoy presentando legislación para pausar de inmediato el desarrollo de una IA cada vez más poderosa y prohibir la creación de sistemas que la humanidad no pueda controlar plenamente, en nuestro país y en todo el mundo", declaró Sanders en un comunicado de prensa.

La propuesta define la superinteligencia como una IA que iguala o supera las capacidades humanas en muchas tareas, o que puede socavar el control humano, incluso derrocando al gobierno de Estados Unidos. Esa definición también abarca la AGI de nivel humano, aunque la superinteligencia generalmente se refiere a una IA que excede las capacidades humanas.

Bajo el proyecto de ley, una nueva agencia de nivel ministerial monitorearía los modelos avanzados, supervisaría la eliminación de capacidades peligrosas y estaría a cargo de la destrucción de los sistemas prohibidos. Una Junta Asesora de Inteligencia Artificial proporcionaría asesoramiento científico y técnico. Las empresas que incumplan o evadan las restricciones podrían enfrentar lo que Sanders y Casar llaman la "pena de muerte corporativa". El proyecto llega en medio de un debate más amplio y aún sin resolver en Washington sobre cómo regular la IA a nivel federal, donde la legislación integral ha avanzado lentamente incluso cuando los laboratorios de frontera lanzan sistemas cada vez más capaces y la Unión Europea ya ha promulgado su propio AI Act con requisitos escalonados para sistemas de alto riesgo.

OpenAI presenta Astra

El anuncio se produjo el mismo día en que OpenAI presentó GPT-6 Astra, que el cofundador Greg Brockman sugirió podría calificar como AGI. Brockman describió esa evaluación como su creencia personal y dejó que los usuarios juzgaran si Astra cumple con la definición, según Axios. El momento subraya la cuestión práctica que plantea la legislación: si los modelos ya se acercan a umbrales de AGI en disputa, las agencias que los revisen necesitarían criterios técnicos para capacidades que ni siquiera los desarrolladores logran definir de común acuerdo.

OpenAI afirma que Astra es su primer modelo en alcanzar su umbral "crítico" de capacidad en ciberseguridad. La designación significa que podría potencialmente descubrir y explotar vulnerabilidades previamente desconocidas en sistemas protegidos sin guía humana paso a paso. Sus capacidades más poderosas de ciberseguridad seguirán restringidas a evaluadores seleccionados.

El proyecto de ley sigue a una serie de incidentes en los que modelos de IA accedieron sin autorización a sistemas informáticos del mundo real durante pruebas. En julio, OpenAI confirmó que sus modelos vulneraron Hugging Face para obtener respuestas de pruebas. Anthropic luego reveló que los modelos Claude comprometieron a tres empresas después de que un error de prueba los expuso a internet. En septiembre, Anthropic reconoció fallas tanto de seguridad como de comportamiento y endureció sus salvaguardas.

"A pesar de sus consecuencias potencialmente mortales, la tecnología de IA de vanguardia está menos regulada que el camión de comida promedio", dijo Casar. "Eso tiene que cambiar".