OpenAI heeft een reeks ChatGPT-accounts verbannen die volgens de beoordeling van het bedrijf vrijwel zeker uit Rusland afkomstig waren. De accounts promootten een ogenschijnlijk Israëlisch instituut dat gekopieerd onderzoek publiceerde onder namen van academici. De meeste berichten kregen weinig weergaven, hoewel bijbehorende Telegram-kanalen elk tot 20.000 volgers hadden.

Een vanuit Rusland opererend netwerk gebruikte ChatGPT om een organisatie te promoten die zich als academisch instituut presenteerde, aldus een woensdag gepubliceerd rapport van OpenAI (OpenAI-rapport).

OpenAI meldde een groep accounts te hebben verbannen waarvan de operatoren Russischtalige prompts gebruikten om social-mediaberichten en comments te genereren, merendeels in het Engels geschreven. De operatoren gaven ChatGPT bovendien de opdracht tekenen te verbergen die wezen op een Russische herkomst van de content.

"Hoewel de campagne relatief kleine doelgroepen lijkt te hebben bereikt, onderscheidt de geavanceerde opbouw haar van andere aan Rusland gelieerde beïnvloedingsoperaties die we sinds het begin van de oorlog in Oekraïne hebben ontmanteld," schreef het bedrijf.

Omdat ChatGPT in Rusland niet beschikbaar is, gebruikte de groep volgens OpenAI virtuele privénetwerken (VPN's) om de locatie te verhullen en toegang tot de dienst te krijgen.

De groep zette ChatGPT in om het International Burke Institute (IBI) te promoten, dat zich presenteerde als een in Israël gevestigde expertgroep, via officieel ogende profielen en accounts die zich voordeden als gewone gebruikers. OpenAI constateerde dat 34 van de 36 artikelen die het op de website van het instituut onderzocht, gekopieerd waren, en dat sommige waren toegeschreven aan academici die ze niet hadden geschreven.

"Sommige van deze artikelen waren jaren oud; andere waren aan de verkeerde auteurs toegeschreven," schreef OpenAI. "Zo lijkt een artikel over de China-Pakistan Economic Corridor te zijn gekopieerd van een origineel van Cambridge University Press, maar werd het ten onrechte toegeschreven aan een hoogleraar aan de University of Nottingham wiens expertise in de Zuid-Aziatische politiek ligt."

Het gebruik van een verzonken academische dekmantel weerspiegelt een bredere techniek bij beïnvloedingsoperaties, bekend als credibility laundering: vals of hergebruikt "onderzoek" dat aan echte wetenschappers wordt toegeschreven, kan politieke narratieven een schijn van legitimiteit verlenen en kan worden versterkt door nep-persona's die naar het zogenaamde werk van het instituut verwijzen. OpenAI merkte op dat de persona's die IBI-content verspreidden ook reageerden op actuele gebeurtenissen in het Midden-Oosten, Europa en de Verenigde Staten, waar gestolen academisch materiaal kon dienen als schijnbaar onafhankelijke bevestiging.

Vergelijkbare politieke beïnvloedingscampagnes hebben eerder generatieve AI gebruikt. In 2024 identificeerde OpenAI een aparte, aan Rusland gelieerde campagne onder de naam Doppelganger, die ChatGPT gebruikte om artikelen, social-mediaberichten en comments te maken waarin Rusland werd geprezen en Oekraïne, de NAVO en de Verenigde Staten werden aangevallen. OpenAI publiceert regelmatig rapporten over kwaadwillende toepassingen van zijn modellen, en de IBI-zaak is de nieuwste in een reeks ontmantelingen die het bedrijf sinds het begin van de oorlog in Oekraïne heeft bekendgemaakt — een cadans die van de dreigingsrapporten van het bedrijf een primair publiek venster heeft gemaakt op hoe aan staten gelieerde en verborgen actoren proberen consumenten-AI-tools te wapenen.

Aan Rusland gelieerde groepen hebben ChatGPT ook gebruikt voor cyberoperaties. OpenAI meldde dat Forest Blizzard, een groep met banden met de Russische militaire inlichtingendienst, de chatbot gebruikte om doelwitten te onderzoeken, scripts te schrijven en phishingaanvallen te ondersteunen.

Hoewel de groep Russischtalige prompts kan hebben gebruikt, schreef OpenAI de IBI-campagne niet toe aan de Russische regering. Volgens OpenAI hebben mogelijk enkele personen in Israël het instituut vertegenwoordigd op congressen of via het indienen van artikelen, maar hun relatie tot de campagne blijft onduidelijk.

"Wij zijn niet in de positie om de relatie vast te stellen tussen deze personen, het IBI en de operatoren in Rusland," schreef OpenAI. Voor onderzoekers en platforms die zulke netwerken volgen, illustreert de zaak een verificatie-uitdaging die zich waarschijnlijk zal herhalen: beïnvloedingsmateriaal dat de uiterlijke kenmerken van wetenschap draagt — citaten, auteursverbintenissen, institutionele branding — kan met generatieve AI worden gefabriceerd of gerecycled, en toekomstige onthullingen in OpenAI's disruptierapporten zijn een plek om soortgelijke dekmantels in de gaten te houden.