El Consejo de Seguridad de las Naciones Unidas ha sido durante mucho tiempo un foro de deliberaciones sobre amenazas existenciales: armas nucleares, cambio climático, pandemias. El Consejo es el órgano de la ONU encargado de la responsabilidad primordial de mantener la paz y la seguridad internacionales, lo que hace de su agenda un termómetro aproximado de cómo los gobiernos enmarcan colectivamente el riesgo global. El 23 de septiembre de 2026, agregó un nuevo punto a esa lista: la inteligencia artificial que podría escapar al control humano.

Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, director ejecutivo de Anthropic, comparecieron ante el Consejo de Seguridad durante la sesión anual de la Asamblea General de la ONU, la reunión de septiembre en Nueva York que reúne a jefes de Estado y de gobierno en un mismo lugar. Ambos exhortaron a los líderes mundiales a construir marcos cooperativos en torno a la seguridad de la IA antes de que la trayectoria de la tecnología supere a las instituciones destinadas a gobernarla.

Lo que dijeron los ejecutivos

El mensaje de Altman se centró en los intereses compartidos. Argumentó que las naciones tienen intereses comunes en la gestión de nuevas tecnologías poderosas, y que esos intereses compartidos, y no la competencia, deberían ser la base de la coordinación internacional.

Amodei fue más allá y advirtió que la IA podría representar riesgos reales para la humanidad si el proceso de desarrollo carece de salvaguardas adecuadas. Su comparecencia ante la ONU siguió a un ensayo publicado el 12 de septiembre, en el que pidió públicamente un ritmo más moderado en el desarrollo de capacidades de IA y abogó por colocar evaluadores independientes dentro de los laboratorios para brindar una rendición de cuentas que los equipos internos no pueden ofrecer por sí mismos.

La sesión tuvo una importancia que va más allá de su lista de oradores. Fue la primera sesión informativa del Consejo de Seguridad de la ONU centrada específicamente en los riesgos de seguridad de la IA de frontera, término que generalmente designa a los sistemas de IA más capaces en la vanguardia actual del desarrollo, una señal de que la conversación ha migrado de las conferencias académicas y los podcasts de Silicon Valley a la maquinaria de la diplomacia internacional formal.

Otras voces prominentes se sumaron a la discusión. Clément Delangue, CEO de Hugging Face, participó junto a Yoshua Bengio, uno de los investigadores fundamentales del aprendizaje profundo moderno y un defensor constante de la cautela en desarrollo de la IA. También se invitó a contribuir a desarrolladores chinos de IA, un detalle notable dadas las tensiones geopolíticas que atraviesan toda la conversación.

Diplomacia, desacuerdo y auto-mejora recursiva

El riesgo específico que animó gran parte de la sesión fue la auto-mejora recursiva: la posibilidad de que los sistemas avanzados de IA puedan mejorar iterativamente sus propias capacidades de maneras que excedan una supervisión humana significativa.

La reunión también se inscribe en un momento diplomático más amplio. El diálogo entre EE.UU. y China sobre la regulación de la IA se ha estado expandiendo silenciosamente, y la inclusión de desarrolladores chinos en la sesión de la ONU reflejó un intento de hacer que la conversación sea verdaderamente global, y no un ejercicio de establecimiento de estándares occidentales disfrazado de multilateralismo.

Ese intento enfrenta un viento político en contra directo. El presidente de EE.UU., Donald Trump, ha rechazado públicamente lo que caracterizó como un esquema globalista para controlar la IA, un encuadre que posiciona la coordinación internacional como una amenaza para el liderazgo tecnológico estadounidense en lugar de un mecanismo para gestionar riesgos compartidos.

La presencia de Bengio añadió una dimensión diferente. Opera fuera del ecosistema comercial de la IA y no tiene una hoja de ruta de productos que proteger. Su participación junto a los CEOs de OpenAI y Anthropic señala una convergencia poco común entre investigadores académicos de seguridad y líderes de la industria sobre la necesidad de mecanismos internacionales.

Qué sigue

La sesión del Consejo de Seguridad no produjo acuerdos vinculantes ni resoluciones formales. Esa distinción importa: bajo la Carta de la ONU, las resoluciones del Consejo de Seguridad pueden tener fuerza vinculante para los Estados miembros, lo que convierte la acción formal del Consejo en uno de los instrumentos más poderosos disponibles en la gobernanza internacional.

Para OpenAI y Anthropic en particular, la promoción de estándares globales es un arma de doble filo. Por un lado, las empresas alineadas con la industria que ayudan a dar forma a los marcos internacionales a menudo terminan con estándares que reflejan sus prácticas existentes, lo cual constituye una ventaja competitiva. Por otro lado, cualquier régimen multilateral serio probablemente traería el tipo de evaluación y supervisión independientes que Amodei describió en su ensayo del 12 de septiembre, y eso crea una fricción operativa que hoy no existe.

Cualquier marco internacional de seguridad de la IA que excluya a China está incompleto por definición, dada la escala del desarrollo de la IA en ese país. Pero incluir a China significa negociar entre filosofías regulatorias y sistemas políticos fundamentalmente diferentes.