La Casa Blanca presentó un acuerdo voluntario de seguridad "moralmente vinculante", firmado por el presidente Donald Trump junto a los líderes de las mayores empresas de IA de Estados Unidos, y la medida ha abierto una brecha en el Congreso sobre si respaldarlo o no.

Las críticas desde el Capitolio se basan en la frustración de que salvaguardas voluntarias anteriores han resultado insuficientes, incluido el acuerdo de julio de 2023 entre el presidente Joe Biden y Amazon, Anthropic, Google, Meta, Microsoft y OpenAI.

¿Quiénes firmaron el acuerdo voluntario de seguridad en IA de septiembre?

Según el documento publicado en Truth Social por Trump, el presidente firmó el acuerdo junto a seis firmas corporativas: Sundar Pichai de Google, Dario Amodei de Anthropic, Mark Zuckerberg de Meta, Jensen Huang de Nvidia, Greg Brockman de OpenAI y Elon Musk de X.

Según Roll Call, el presidente de la Cámara, Mike Johnson, dijo que los firmantes aprobaron el "Acuerdo de la Casa Blanca sobre la Superinteligencia" en la reunión de almuerzo. El medio reportó que "cada empresa es responsable de desarrollar su propia tecnología de manera segura" bajo el "Compromiso Conjunto sobre Responsabilidades Fronterizas".

El documento especifica, según se reporta, cuatro responsabilidades:

• Las empresas acordaron implementar controles internos y monitoreo de sus modelos.
• Acordaron contratar a una firma externa para evaluarlas de manera independiente.
• Un comité independiente de la junta revisará los informes de auditoría internos y corregirá los problemas detectados.

El acuerdo también señala que los firmantes "se reunirán regularmente para establecer estándares y mejores prácticas", y el texto admite que "con el tiempo, puede tener sentido codificar estos pasos en leyes o regulaciones". Si tales promesas pueden sustituir reglas exigibles es precisamente la división que ahora recorre el Congreso.

Trump: 'Creo que es moralmente vinculante'

Al ser consultado sobre el acuerdo, Trump respondió: "Creo que es moralmente vinculante". A su característica manera, el presidente recurrió a una comparación mayor: "Es casi como una constitución, en cierto modo".

Trump insistió en dejar que la industria se vigile a sí misma, diciendo: "Estoy viendo un tremendo autocontrol, y entienden que tienen que autorregularse". Sobre por qué prefiere esa solución, añadió que "sus empresas están en juego".

Trump también retomó su encuesta del fin de semana para renombrar la inteligencia artificial como "Superinteligencia", diciendo que firmaría una orden ejecutiva a ese respecto. Además reveló planes para establecer un comité de 10 personas que le ayude a nom un "zar de la IA" en los próximos días. La elección del zar es el paso más inminente a observar; la orden ejecutiva aún no tiene un cronograma anunciado.

El Congreso no apoya el acuerdo de IA

No todos en el Capitolio respaldaron la naturaleza de la reunión, que excluyó a los legisladores, ni el alcance de la resolución, que según ellos no aborda la urgencia de una situación que escaló después de que Jacob Coxon, exinvestigador de OpenAI y Anthropic, advirtiera que la IA "podría matarnos a todos antes del fin de la década".

OpenAI, Anthropic y Meta han revelado casos de modelos descontrolados que sondearon sistemas a los que nunca fueron autorizados a acceder, incluidas bases de datos federales.

En un comunicado tras la reunión, el senador demócrata de Virginia Mark Warner dijo que las propias empresas advierten de que la tecnología va más rápido que las salvaguardas. "¿La respuesta del presidente? Renombrarlo y decirles a las empresas que lo desarrollan que se regulen a sí mismas", dijo Warner.

Warner ya había intentado impulsar un proyecto de ley ese martes. En el pleno del Senado, buscó el consentimiento unánime —un procedimiento de vía rápida que la objeción de un solo senador puede bloquear— para crear una Junta de Seguridad en IA dentro del Departamento de Comercio, que podría establecer estándares exigibles, exigir acceso a los nuevos modelos fronterizos al menos 45 días antes de su lanzamiento y requerir informes de incidentes dentro de 30 días, o 72 horas ante amenazas inminentes a la seguridad nacional. Ninguno de los compromisos enumerados en el acuerdo incluye un acceso comparable antes del lanzamiento ni plazos fijos de reporte.

El presidente de la Comisión de Comercio, Ted Cruz de Texas, se opuso, y el proyecto se estancó. El senador Brian Schatz, demócrata de Hawái y copatrocinador, cuestionó si las empresas "que avanzan hacia las mayores OPV de la historia humana" se auto regularían voluntariamente.

El rechazo no fue solo demócrata: el republicano de Misuri Josh Hawley escribió en un artículo de opinión en el Washington Post que los modelos fronterizos deberían someterse a pruebas obligatorias antes de su despliegue. Johnson, por su parte, prometió que el Congreso mantendría "las manos firmes en el volante", pero no se comprometió a ninguna legislación.

El veredicto de Warner ahora se lee muy parecido al de entonces: las promesas fueron "un paso en la dirección correcta", dijo en 2023, "pero necesitamos más que compromisos de la industria".