OpenAI prohibió un conjunto de cuentas de ChatGPT que evaluó como muy probablemente originarias de Rusia. Las cuentas promovían un supuesto instituto israelí que publicaba investigaciones copiadas bajo nombres de académicos. La mayoría de las publicaciones recibieron pocas visitas, aunque los canales de Telegram asociados tenían hasta 20,000 seguidores cada uno.

Una red originaria de Rusia usó ChatGPT para promover una organización que se presentaba como un instituto académico, según un informe de OpenAI publicado el miércoles (informe de OpenAI).

OpenAI indicó que prohibió un grupo de cuentas cuyos operadores usaban instrucciones en ruso para generar publicaciones y comentarios en redes sociales, en su mayoría escritos en inglés. Los operadores también le indicaban a ChatGPT que ocultara las señales de que el contenido provenía de Rusia.

"Aunque la campaña parece haber alcanzado audiencias relativamente pequeñas, su construcción elaborada la distingue de otras operaciones de influencia vinculadas a Rusia que hemos desarticulado desde el inicio de la guerra en Ucrania", escribió la empresa.

Dado que ChatGPT no está disponible en Rusia, OpenAI señaló que el grupo usó redes privadas virtuales (VPN) para disfrazar su ubicación y acceder al servicio.

El grupo usó ChatGPT para promover el International Burke Institute (IBI), que afirmaba ser un grupo de expertos con base en Israel, mediante perfiles de aspecto oficial y cuentas que se hacían pasar por usuarios comunes. OpenAI descubrió que 34 de los 36 artículos que revisó en el sitio web del instituto eran copiados, y algunos estaban acreditados a académicos que no los escribieron.

"Algunos de estos artículos tenían años de antigüedad; otros estaban atribuidos a los autores equivocados", escribió OpenAI. "Por ejemplo, un artículo sobre el Corredor Económico China-Pakistán parece haber sido copiado de un original de Cambridge University Press, pero atribuido incorrectamente a un profesor de la Universidad de Nottingham cuya especialidad es la política de Asia Meridional."

El uso de un frente académico fabricado refleja una técnica más amplia en operaciones de influencia conocida como lavado de credibilidad: la "investigación" falsa o reciclada atribuida a académicos reales puede dar una apariencia de legitimidad a narrativas políticas, y puede ser amplificada por personas falsas que citan el supuesto trabajo del instituto. OpenAI señaló que las personas que difundían el contenido del IBI también comentaban sobre actualidad en Medio Oriente, Europa y Estados Unidos, donde el material académico robado podía servir como aparente corroboración independiente.

Campañas similares de influencia política previamente han usado IA generativa. En 2024, OpenAI identificó una campaña separada vinculada a Rusia conocida como Doppelganger, que usó ChatGPT para crear artículos, publicaciones y comentarios en redes sociales que elogiaban a Rusia y atacaban a Ucrania, la OTAN y Estados Unidos. OpenAI publica informes periódicos sobre usos maliciosos de sus modelos, y el caso del IBI es el más reciente de una serie de desmantelamientos que ha revelado desde el inicio de la guerra en Ucrania — un ritmo que ha convertido los informes de amenazas de la empresa en la principal ventana pública sobre cómo actores estatales y encubiertos intentan convertir las herramientas de IA de consumo en armas.

Grupos vinculados a Rusia también han usado ChatGPT para operaciones cibernéticas. OpenAI señaló que Forest Blizzard, un grupo vinculado a la inteligencia militar rusa, usó el chatbot para investigar objetivos, escribir scripts y apoyar ataques de phishing.

Aunque el grupo pudo haber usado instrucciones en ruso, OpenAI no atribuyó la campaña del IBI al gobierno ruso. Según OpenAI, algunas personas en Israel pudieron haber representado al instituto en conferencias o mediante el envío de artículos, pero su relación con la campaña sigue sin estar clara.

"No estamos en posición de determinar la relación entre estos individuos, el IBI y los operadores en Rusia", escribió OpenAI. Para los investigadores y las plataformas que rastrean este tipo de redes, el caso ilustra un desafío de verificación que probablemente se repetirá: el material de influencia que lleva los ropajes del mundo académico — citas, afiliaciones de autores, imagen institucional — puede ser fabricado o reciclado con IA generativa, y futuras revelaciones en los informes de desmantelamiento de OpenAI son un punto a vigilar para detectar frentes similares.