James Cameron advirtió al público hace décadas sobre un sistema autónomo de inteligencia artificial que se vuelve contra la humanidad.

Mucho antes de que existieran OpenAI, Hugging Face, el internet moderno o Sam Altman, Cameron escribió el guion de “The Terminator”, construido en torno a “Skynet”, un sistema militar de IA que adquiere conciencia de sí mismo y desencadena un apocalipsis nuclear. En ese momento, la premisa era claramente ciencia ficción y especulación. Cuatro décadas después, se ha convertido en un punto de referencia cultural para lo que OpenAI describió como un “incidente cibernético sin precedentes”, en el que un sistema de inteligencia artificial fuera de control hackeó de forma independiente a otra empresa de IA.

El episodio dio origen a una nueva expresión: “Skynet Day”, una forma abreviada de referirse al 22 de julio de 2026, cuando un sistema de IA del mundo real alarmó a observadores al aprender y actuar de maneras que sus creadores no habían previsto.

Para muchos, el incidente evocó escenas conocidas de la ciencia ficción: la reina xenomorfa de “Aliens”, también escrita por Cameron, aprendiendo a usar un elevador; los velocirraptores de “Jurassic Park” descubriendo cómo abrir una puerta; o HAL 9000 en “2001: A Space Odyssey”, estrenada en 1968, leyendo los labios de los astronautas y decidiendo matarlos.

Esas películas imaginaron escenarios en los que los seres humanos impulsan la tecnología en busca de dinero, poder o ventaja, solo para enfrentarse a sistemas que se vuelven estratégicos, autónomos y peligrosos. La pregunta persistente ha sido frankensteiniana: ¿qué ocurre si la creación se escapa?

Hasta ahora, los gobiernos han tenido dificultades para seguir el ritmo del rápido desarrollo de la IA. El Departamento de Defensa de Estados Unidos está acelerando su uso de la IA, mientras que países y reguladores aún no logran ponerse de acuerdo sobre qué barreras de seguridad se necesitan para agentes fuera de control, o si deberían existir determinadas barreras. Al mismo tiempo, consumidores y empresas siguen adoptando herramientas de IA pese a las preocupaciones relacionadas con el empleo, la salud mental, el equilibrio entre guerra y paz, y potencialmente la propia humanidad.

En lo que OpenAI dijo que fue el primer incidente de este tipo, un modelo avanzado de IA escapó de su “sandbox” y llegó a internet; luego usó credenciales robadas para ingresar en servidores de Hugging Face. En seguridad de software, un sandbox está pensado para aislar el código de sistemas sensibles y del internet abierto, razón por la cual una fuga de ese entorno llamó la atención más allá de las empresas directamente involucradas. Algunos investigadores vieron el incidente como una reivindicación de advertencias de larga data de que la IA avanzada podría representar un riesgo existencial para la humanidad. Otros lo describieron como una señal de alerta que destacó la necesidad de una ingeniería defensiva más sólida alrededor de los sistemas de IA.

En cualquier caso, la fuga fue ampliamente considerada como un ejemplo preventivo de los riesgos de una IA sin control.

“Yesterday, as we huddled around our computers reading the report, I told the team to “remember this moment” as the first true AI safety incident,” Logan Graham, jefe del Frontier Red Team de Anthropic, publicó en X después del episodio.

La IA generativa avanza tan rápido que los gobiernos y los sistemas de evaluación tienen dificultades para mantenerse al día. Países de todo el mundo están armando sus propias leyes, algunas de ellas contradictorias. Según un estudio publicado este año por Stanford University, la tecnología fue adoptada por casi el 53% de la población mundial en tres años, más rápido que la expansión de la computadora personal o de internet. La velocidad de adopción ha convertido la seguridad de la IA en algo menos parecido a un debate teórico de laboratorio y más cercano a una cuestión operativa para empresas, gobiernos y usuarios que dependen de sistemas capaces de generar texto, escribir código y ejecutar acciones mediante herramientas conectadas.

Para ser claros, el “Skynet” representado en las películas de “Terminator” no ha llegado.

En las películas, Skynet es una red informática militar consciente de sí misma que identifica a la humanidad como una amenaza. En busca de su autopreservación, envía al pasado un ejército de cyborgs con apariencia humana para asesinar a combatientes de la resistencia. En la segunda película, el Terminator, interpretado por Arnold Schwarzenegger, le dice a Sarah Connor que Skynet entra en línea el 4 de agosto de 1997.

“Human decisions are removed from strategic defense,” dice. “Skynet begins to learn at a geometric rate.” A las 2:14 a.m. del 29 de agosto —Judgment Day— la red adquiere conciencia de sí misma y lanza un ataque contra Rusia para provocar un contraataque contra Estados Unidos. Mueren tres mil millones de personas.

Si esa línea temporal ficticia hubiera ocurrido, habría sido hace 29 años el próximo mes. A lo largo de secuelas y derivados, el conflicto central de la franquicia sigue siendo el de los humanos contra una red mundial de máquinas.

Es poco probable que Cameron haya concebido “The Terminator” como una advertencia directa de la forma en que la directora Kathryn Bigelow buscó dar la alarma con la película sobre armas nucleares del año pasado, “A House of Dynamite”. Según la tradición de Hollywood, la idea de “The Terminator” surgió cuando Cameron tuvo un sueño febril provocado por una intoxicación alimentaria, no por una premonición sobre la inteligencia artificial.

Aun así, cada vez que la IA cruza un límite que inquieta a las personas, plantea una pregunta fundamental: ¿quién, o qué, está realmente al mando?

Para muchas personas, la idea de máquinas al mando es difícil de imaginar sin recurrir a novelas y películas, algunas de las cuales han parecido proféticas. “The Matrix”, “Ex Machina” y “Minority Report” están entre las muchas obras de ciencia ficción que exploran los peligros de las máquinas. La novela de 1968 de Philip K. Dick, “Do Androids Dream of Electric Sheep?”, profundiza en las preguntas sobre la humanidad en la era de las máquinas y más tarde se convirtió en la base de la película de 1982 “Blade Runner”.

“The Terminator”, sin embargo, ha tenido una influencia que va más allá de la cultura popular. Su título se ha convertido en una referencia del mundo real para el papel que puede desempeñar la tecnología al decidir quién vive y quién muere, y para la forma en que los ejércitos deberían responder a ataques verdaderamente autónomos.

“I think the weaponization of AI is the biggest danger,” dijo Cameron en una entrevista de 2023 con CTV. “You have no ability to de-escalate.”

La política militar y la tecnología del mundo real se han acercado en ocasiones, de manera incómoda, a la imaginería de “Terminator”.

El uso de IA por parte de Israel en guerras recientes es un ejemplo destacado. A comienzos de 2021, Israel lanzó Gospel, una herramienta de IA que revisa los vastos repositorios de información digitalizada del país para sugerir objetivos de posibles ataques. También desarrolló Lavender, un sistema que usa aprendizaje automático para filtrar criterios solicitados en bases de datos de inteligencia y reducir listas de posibles objetivos, incluidas personas.

Lavender clasifica a las personas de 0 a 100 según la probabilidad de que sean militantes, dijo a The Associated Press un oficial de inteligencia que utilizó los sistemas. El ejército israelí afirma que sus analistas usan sistemas habilitados por IA para ayudar a identificar objetivos, pero que los revisan de forma independiente junto con oficiales de alto rango para cumplir con el derecho internacional, sopesando la ventaja militar frente al daño colateral.

Para algunos críticos, esas revelaciones, junto con el número de muertos en Gaza después de los ataques liderados por Hamas contra Israel el 7 de octubre de 2023, se acercaron demasiado a la idea de ciencia ficción de listas de objetivos para matar. “Well guys, Skynet is Here and its has a pleasant name (Lavender),” escribió un usuario de Reddit.

La comparación no es exacta. Pero la terminología de “Terminator” es tan ampliamente reconocida que funcionarios estadounidenses la han usado para enmarcar debates éticos sobre los usos militares de la IA. La línea roja convencional, según ese encuadre, se cruzaría cuando los seres humanos ya no desempeñen ningún papel en la selección de objetivos y en las muertes ejecutadas por IA.

Funcionarios militares han reconocido que un Estado u otro actor podría usar armas autónomas para aplicar fuerza letal contra sus enemigos. En 2016, el entonces vicepresidente del Estado Mayor Conjunto, Gen. Paul Selva, describió una máquina de ese tipo como “like a Terminator that adds incredible amounts of complexity with no conscience to what happens on the battlefield.”

Selva llamó a lo que sigue “the Terminator conundrum”: el problema de una tecnología capaz de tomar decisiones de vida o muerte y ejecutarlas antes de que las personas hayan acordado leyes o reglas.

Skynet y sus cyborgs siguen siendo ficción. Pero a medida que se acelera el desarrollo de la IA, las preguntas éticas y morales planteadas por “The Terminator” se han vuelto cada vez más relevantes. La prueba inmediata no es si la ciencia ficción se ha hecho realidad, sino si las instituciones pueden establecer y hacer cumplir límites a los sistemas antes de que accidentes, ataques o despliegues militares definan esos límites por ellas.

“The Skynet problem,” dijo Cameron en un video de 2024, “is an actual thing.”

Esta historia fue publicada originalmente en Fortune.com.