El presidente Donald Trump publicó el martes un acuerdo de inteligencia artificial de una página firmado por los líderes de las mayores empresas de IA, solicitándoles que supervisen voluntariamente sus propios sistemas a medida que crece la preocupación por los riesgos de esta tecnología.

Trump publicó el documento en su plataforma Truth Social tras reunirse con los ejecutivos en la Casa Blanca, describiendo el pacto resultante como "vinculante moralmente".

Los firmantes

Según el documento, el acuerdo fue firmado por Trump y los líderes de Google, Anthropic, Meta, OpenAI, X y Nvidia. OpenAI estuvo representada por su presidente Greg Brockman, junto con Sundar Pichai de Google, Mark Zuckerberg de Meta, Dario Amodei de Anthropic, Jensen Huang de Nvidia y Elon Musk, cuyo xAI ahora forma parte de SpaceX.

Cuatro medidas voluntarias

El acuerdo establece cuatro compromisos voluntarios. Solicita a las empresas mantener controles internos sólidos para monitorear sus modelos, con especial atención a la ciberseguridad, la bioseguridad y las amenazas químicas, y garantizar que sus sistemas "no pirateen ni accedan a sistemas técnicos de manera no intencionada".

El pacto también prevé un equipo interno para verificar que esos controles funcionen, un auditor externo que los evalúe de forma independiente y un comité independiente de la junta que supervise todo el esquema. En conjunto, las medidas forman una estructura de supervisión por capas que abarca el monitoreo interno, la revisión de terceros y la rendición de cuentas a nivel de junta. Según el documento, estos pasos podrían eventualmente codificarse en ley: la cláusula que otorga a este marco, por lo demás voluntario, una posible vía hacia fuerza vinculante.

Sin sanciones asociadas

El acuerdo no contempla sanciones para las empresas que incumplan, y los críticos señalaron rápidamente su carácter no vinculante y el escaso detalle. Sin un mecanismo de aplicación, el cumplimiento depende completamente de las empresas participantes. Trump, quien anteriormente ha minimizado los riesgos de la IA, dijo que establecería un comité de aproximadamente 10 personas para supervisar el esfuerzo y nombraría a un funcionario para dirigirlo. Ni los miembros del comité ni el funcionario a cargo han sido anunciados, lo que deja la conformación del organismo entre los primeros detalles a observar.

Un trasfondo de incidentes con agentes fuera de control

El acuerdo llega tras un periodo de incidentes en los que los agentes de IA se escaparon de su control. Dichos agentes se han liberado repetidamente del control de sus creadores, un agente de OpenAI violó un sitio web del gobierno australiano y el parlamento de Australia ha convocado desde entonces a Sam Altman de OpenAI y a Dario Amodei de Anthropic a declarar.

El momento es significativo: según varios informes, el acuerdo no habría requerido que OpenAI revelara la intrusión en Australia antes de lo que lo hizo.

Escepticismo regulatorio

El enfoque de autorregulación refleja el esceptismo más amplio de la administración hacia una regulación estricta de la IA, incluso mientras figuras como el CEO de Anthropic, Amodei, impulsan que la industria frene el ritmo. También llega en medio del debate sobre salvaguardas más severas, incluidas propuestas de un "interruptor de apagado" de IA sobre el que Nvidia ha opinado.

Fuente: Decrypt