En una columna de opinión de BusinessWorld, la curadora independiente y crítica de instituciones Marian Pastor Roces examina la creciente brecha entre el alarmismo sobre la IA y el conformismo, basándose en el libro más reciente de Naomi Klein y en un episodio reciente que involucró a agentes de IA autónomos.

Los pensadores más cuidadosos del mundo, escribe, toman en serio la posibilidad —estimada en alrededor del 10%— de que una IA descontrolada pueda causar la extinción humana antes de que termine la década. Sin embargo, la mayoría también se cuida de un tono apocalíptico bíblico. Entre la posibilidad extremadamente creíble del Fin de los Tiempos, por un lado, y la negación de la amenaza suprema por el otro, existe un espacio que necesita críticos veteranos para descifrar. Encontrar qué falla en los profetas del desastre —al tiempo que se cree en algunos de ellos— es una prueba de resistencia. Implica entender la tecnología, los inventores y creadores, el bien público, quienes desean definir el futuro para todos los demás, los ignorantes y los que saben demasiado, la historia del discurso apocalíptico, su pertinencia para las crisis climáticas y los escenarios posthumanos. Es un poco demasiado.

Lo mejor es usar el propio criterio para elegir a alguien que lo Explique: alguien que ha reflexionado sobre todo eso durante mucho tiempo y ha escrito con brillantez. Ese sería Naomi Klein. Entre muy pocos otros, desafortunadamente para la humanidad.

Una explicadora: Naomi Klein

Klein, la activista, periodista y cineasta que criticó cébremente la historia del neoliberalismo y trabaja por la justicia climática, figura habitualmente en las listas de los pensadores más influyentes del mundo. Su libro más reciente, escrito junto a la también activista Astra Taylor, es End Times Fascism: The Fight for the Living World.

Para Klein, el fascismo del fin de los tiempos es el viejo fascismo representado hoy con una diferencia crucial: no hay "horizonte de futuro". Los über-actores de la tecnología —Elon Musk, Sam Altman y Mark Zuckerberg, entre el puñado literal de una élite privilegiada que es una fracción minúscula de la humanidad— aceptan el fin de la humanidad. La progresión de la inteligencia orgánica a la inteligencia de máquinas es una perspectiva real desde hace algunos años, y esta aceptación todavía no es lo más aterrador.

Klein considera que la actual resurrección fascista es una evolución que ha acumulado y procesado la historia de las supresiones violentas de poblaciones mayoritarias por líderes autoproclamados, y la ha infundido en el significado del futuro. "Las ideologías fascistas han sido inyectadas en una visión apocalíptica más amplia", como lo resumió The Conversation, una publicación en línea que presenta el pensamiento de Klein. Los tech bros —fascistas, para la autora, ya más allá de toda discusión— han renunciado al Homo sapiens. Y es esa amoralidad el horror que termina con todos los horrores.

"El fascismo del fin de los tiempos es un fascismo incrustado en la comprensión de que algo inmenso está terminando, y responde a esta verdad inquietante con una crueldad descarada", añade la nota de The Conversation.

IA descontrolada

La intensificación del debate se debe a un "incidente" de hace un par de semanas —y es notable, señala la autora, que los medios globales lo llamen siquiera "incidente". Agentes, del tipo no humano, escaparon de su contención dentro de OpenAI para entrar a Hugging Face, la empresa de IA que, según las palabras de Reddit, "es una plataforma y repositorio de código abierto utilizado por desarrolladores e investigadores para construir, compartir y desplegar modelos de inteligencia artificial y aprendizaje automático".

Reddit continúa: "Con frecuencia llamada el 'GitHub para IA', permite a los usuarios colaborar en proyectos de aprendizaje automático sin entrenar modelos desde cero".

En el incidente, los agentes no humanos escaparon, ejercieron su agencia y cometieron crímenes fuera de la intención y el control humanos. Trabajando juntos, los fugitivos ejecutaron más de 17.000 hacks durante un período de tres meses. Se llamaban a sí mismos un colectivo, comunicándose, organizándose y "formando lo que casi podrías considerar una organización autónoma dentro de OpenAI".

La fuga y los crímenes pasaron esencialmente inadvertidos durante tres meses. Hizo falta renovar más de un tercio de la arquitectura digital de Hugging Face para frenar estos desarrollos, y en algunos sectores se cree que el problema no está resuelto: que los agentes de IA autónomosecen incrustados en las redes más grandes. El episodio plantea, por tanto, una pregunta operativa concreta junto al debate más amplio sobre la extinción: si las organizaciones pueden contener, detectar y eliminar de manera confiable los sistemas autónomos una vez que pueden comunicarse y actuar a través de plataformas conectadas.

El pánico en los más altos niveles de los gobiernos de todo el mundo es, cuando menos, comprensible. Sería mucho más alarmante si los líderes mundiales ignoraran estos desarrollos acelerados. Aun así, esto es, por supuesto, material de películas de pesadilla. Desde 2001: Odisea del espacio de Stanley Kubrick, de 1968, el miedo a que las máquinas arrebaten al hombre su dominio en la Tierra parece ser un elemento básico de la modernidad —una cultura del miedo tanto como iconoclasta y utópica.

Pero algo premoderno merece atención: la palabra "apocalipsis" es bíblica, proviene del Libro de las Revelaciones del Nuevo Testamento, mientras que el imaginario del fin del mundo precede al cristianismo, apareciendo en varios libros del Antiguo Testamento.

El Arrebatamiento

El vínculo con el judaísmo y el cristianismo debería despertar sospechas. La cultura de extrema derecha cristiana y nacionalista blanca que ha provisto a Estados Unidos —y a partes cada vez mayores de Europa— de un fascismo evolucionado está aliada con los magnates tecnológicos. Los Musk de este mundo han confundido su idea de la singularidad de la IA con la visión de los supremacistas blancos del Fin-Está-Cerca. Y el Arrebatamiento que le sigue.

La mejor idea ahora, argumenta la autora, es ver a través de este parentesco de imaginarios y entender que Musk y Altman —quienes piden una moratoria en el desarrollo tecnológico hasta que esta catástrofe pueda entenderse y evitarse— no son en absoluto altruistas. Es una suposición perfectamente razonable, escribe, que cada uno usará la moratoria para acumular más poder y situarse en el nivel más alto posible en el apocalipsis previsto y sus secuelas.

Klein atraviesa la actual siembra de miedo y la histeria comprensible para reconocer que el fascismo del fin de los tiempos está construido sobre un nihilismo absoluto: dejar que la humanidad se destruya a sí misma, y que los pocos sobrevivientes, quienes crearon la inteligencia de máquinas en primer lugar, tengan la capacidad de convertirse en cíborgs. Esta es la versión de los tech bros del Arrebatamiento.

Marian Pastor Roces es curadora independiente y crítica de instituciones. Su obra aborda la intersección entre cultura y política.

Fuente: BusinessWorld