El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió el 7 de septiembre que la inteligencia artificial avanza hacia un punto en el que podría representar una amenaza existencial para la humanidad, al hablar ante el Consejo de Derechos Humanos en Ginebra.

Türk presionó a los gobiernos a actuar con rapidez para construir salvaguardas y controlar a los laboratorios de IA que compiten por liderar la tecnología de sistemas autónomos, argumentando que el aumento de infracciones e incidentes de seguridad evidencia el riesgo de que el campo se descontrole.

La preocupación central del funcionario de la ONU es que la tecnología de IA se desarrolla más rápido que los sistemas de gobernanza destinados a seguirla. La advertencia llega en medio de un panorama regulatorio fragmentado: la Unión Europea ha avanzado más con su Ley de IA, que entró en vigor en 2024 y establece obligaciones progresivas para sistemas de alto riesgo, mientras que Estados Unidos ha dependido en gran medida de reglas sectoriales y compromisos voluntarios, y la coordinación internacional vinculante sigue siendo limitada. Según Türk, el crecimiento sin control ha llevado la amenaza más allá de la desinformación y la pérdida de empleos hacia un terreno existencial, que incluye la seguridad, la rendición de cuentas y la ausencia de supervisión significativa sobre sistemas altamente autónomos.

Llamado a una acción internacional urgente

Türk enmarcó su llamado a una acción internacional coordinada en una ventana que se cierra, en la que aún se pueden limitar las capacidades de la IA. También criticó que el ritmo y la dirección del desarrollo del campo descansan de manera desproporcionada en manos de un pequeño círculo de ejecutivos y empresas tecnológicas.

Como remedio, Türk propuso que los países que albergan a las principales empresas de IA, junto con aquellos que controlan cadenas de suministro críticas —un grupo que incluye a Estados Unidos y China, sede de la mayor parte del desarrollo de IA de vanguardia y de la fabricación avanzada de chips— tracen "líneas rojas" que definan hasta dónde están dispuestos a permitir que llegue la tecnología.

El alto comisionado retoma un tema que la ONU abordó en el primer Diálogo Global sobre Gobernanza de la IA, celebrado en julio en la misma ciudad suiza (declaración de la ONU).

En la cumbre AI for Good de la UIT, donde comenzó esa conversación, Türk declaró: "No consideramos que los estándares de seguridad para medicamentos, automóviles o aviones sean obstáculos para el progreso. Son la razón por la que la gente confía en esas tecnologías en primer lugar", según imágenes de la ONU. La supervisión humana, añadió, "no puede ser un mero trámite".

La evidencia presentada en esa cumbre incluyó hallazgos de Sonia Livingstone, del Panel Científico Global sobre IA mandatado por la ONU. En un estudio que abarcó 11 países del Sur Global, al menos un niño por aula reportó haber sido víctima de deepfakes sexualmente explícitos creados con IA.

La directora de ONU Mujeres, Sima Bahous, destacó la dimensión de género del problema. Señaló que alrededor del 88% de los principales investigadores de IA son hombres, y reportó que al menos una de cada cuatro activistas y periodistas encuestadas por su agencia había enfrentado abusos en línea asistidos por IA.

Laboratorios de IA y legisladores reaccionan

La ONU no está sola en dar la alarma este verano. El senador estadounidense Bernie Sanders ha pedido una pausa inmediata en el desarrollo avanzado de IA y una prohibición permanente de la superinteligencia, mientras un grupo multipartidista de parlamentarios británicos impulsó "interruptores de emergencia" ("kill switches") de obligatorio cumplimiento legal tras lo que describieron como una serie de incidentes de IA descontrolada.

Esas preocupaciones siguieron a la afirmación de OpenAI, vinculada a su modelo GPT-6 Astra, de que su tecnología había alcanzado la inteligencia artificial general, y a la admisión de Anthropic de que sus propios modelos no estaban "perfectamente alineados" con los valores humanos.

Parte de la presión también proviene del interior de la propia industria. En un ensayo de junio cubierto por Axios, el CEO de Anthropic, Dario Amodei, argumentó que los gobiernos deberían tener el poder legal de bloquear o revertir despliegues peligrosos de IA, y que los modelos de vanguardia deberían someterse a pruebas obligatorias comparables a las de automóviles, aviones o nuevos medicamentos.

En su propia actualización ante el Consejo, Türk extendió el argumento al ámbito militar, respaldando los llamados a prohibir las armas capaces de matar sin intervención humana, un tema que los Estados miembros de la ONU han debatido durante años sin concluir un tratado jurídicamente vinculante sobre armas autónomas.