OpenAI heeft een “cluster” van ChatGPT-accounts verbannen dat volgens het bedrijf deel uitmaakte van een pro-Russische beïnvloedingsoperatie die was ontworpen om westerse landen in diskrediet te brengen en tegelijkertijd een denktank te promoten die is opgebouwd rond onjuist toegeschreven academisch onderzoek.

In een blogpost van deze week zei het bedrijf dat de verbannen gebruikers VPN's gebruikten om de beperking voor Russische gebruikers te omzeilen en vervolgens zijn technologie inzetten om socialemediaberichten te maken die het International Burke Institute (IBI) promootten — een organisatie die zichzelf omschrijft als een in Israël gevestigde “expertgemeenschap”, maar die OpenAI aanwijst als de “kern” van een Russische beïnvloedingsoperatie.

Volgens OpenAI vermeldt de denktank — waarvan de website nog steeds online staat — prominente figuren zoals de Amerikaanse taalkundige en intellectueel Noam Chomsky en de Amerikaanse politicoloog en auteur Francis Fukuyama onder zijn contribuanten. Zowel Chomsky als Fukuyama reageerden niet onmiddellijk op verzoeken om commentaar van Fortune. Een auteur die op de site stond vermeld, zei dat ze geen idee had dat de website haar naam gebruikte tot Fortune contact met haar opnam. Andere vermelde experts, waaronder Shlomo Avineri en Jiang Ping, overleden voordat het IBI werd opgericht.

OpenAI zei dat de website, die in februari 2025 werd geregistreerd, daarnaast een “soevereiniteitsindex” beheerde die Rusland bevoordeelde, naast tientallen artikelen met onjuiste auteursvermeldingen. Uit een onderzoek van Fortune naar de website van het Burke Institute via de Wayback Machine bleek dat de site weliswaar bestond sinds februari vorig jaar, maar dat er vóór oktober 2025 niets op de pagina werd gepubliceerd.

Het instituut heeft zich tegen de beschuldigingen verzet. In reactie op berichtgeving van het Franse medium Le Monde over de beweringen van OpenAI gaf het een verklaring uit waarin het het idee van de hand wees dat het geen legitieme denktank zou zijn.

“Het feit dat derden een IBI-publicatie, de naam van het instituut of bevindingen uit de Soevereiniteitsindex gebruiken of citeren, vormt op zichzelf geen bewijs van samenwerking, coördinatie, financiering of een gemeenschappelijk onderliggend doel,” aldus de verklaring.

Het Burke Institute reageerde niet onmiddellijk op een verzoek om commentaar van Fortune dat werd gestuurd naar het e-mailadres dat openbaar op de website staat vermeld. OpenAI zei dat volgens eigen onderzoek een handjevol individuen in Israël het Burke Institute vertegenwoordigde in interviews en op conferenties.

Gebruik van namen van echte onderzoekers

Uit een herziening door OpenAI van de artikelen van het Burke Institute bleek dat 34 van de 36 echte academische publicaties waren die aan andere auteurs waren toegeschreven. Een door OpenAI gepubliceerde schermafbeelding toonde een legitiem artikel over migratiebestuur dat op de website van het Burke Institute verscheen: het was afkomstig van het Migration Policy Institute, maar werd toegeschreven aan Kate Howell, hoogleraar voedselwetenschappen aan de University of Melbourne, met een portretfoto die van internet was gehaald. Sinds OpenAI zijn blogpost publiceerde, heeft de website de auteursvermelding van het artikel gewijzigd in een van de echte auteurs, Kate Hooper, senior beleidsanalist bij het Migration Policy Institute. Hooper reageerde niet onmiddellijk op een verzoek om commentaar.

Een andere professor die als expert op de website van het Burke Institute staat vermeld, is Susan Ariel Aaronson, hoogleraar internationale betrekkingen aan de George Washington University. Een legitiem artikel dat zij schreef voor het Centre for International Governance Innovation werd met een downloadlink op de website geplaatst.

Aaronson — die ook co-hoofdonderzoeker is bij het NSF-NIST Institute for Trustworthy AI in Law & Society (TRAILS) — zei tegen Fortune dat zij op geen enkele manier aan het Burke Institute is verbonden. Telefoonisch bereikt omschreef zij de situatie als verontrustend.

“Vertrouwen is echt heel belangrijk in het bestuur van AI, en nu heb je deze heel vreemde situatie, weet je, die aanzienlijk wantrouwen veroorzaakt, dus het is gewoon echt verontrustend,” zei zij.

Zij betreurde voorts dat er op federaal niveau weinig regelgeving is om dit soort gevallen aan te pakken, en stelde dat dit van bovenaf moet worden opgelost.

“De regering-Trump doet niets om AI effectief te reguleren en bestuurt AI op een ondoorzichtige manier. Ondoorzichtigheid schept geen vertrouwen,” voegde zij eraan toe.

Andere artikelen op de website van het Burke Institute lijken volgens OpenAI vanuit een Slavische taal naar het Engels te zijn vertaald. Het bedrijf verwees daarbij naar aanwijzingen zoals het gebruik van het woord “svetofor”, wat in verschillende Slavische talen, waaronder het Russisch, “verkeerslicht” betekent.

Versterking via sociale platforms

OpenAI beweert dat de ChatGPT-gebruikers talrijke socialemediaberichten aanmaakten om het instituut te promoten. Een deel daarvan kwam van accounts met de naam en huisstijl van het International Burke Institute, een ander deel van verzonnen personen die het instituut promootten op Facebook, LinkedIn en X, evenals op Substack en Telegram.

OpenAI zei dat berichten van individuele accounts “slechts lage aantallen weergaven” kregen en dat de officiële accounts van het instituut “lage abonneeaantallen” hadden. Op het instant-messagingplatform Telegram wisten de operatoren echter een groter publiek aan te trekken: tussen de 10.000 en 20.000 volgers per kanaal.

Ondanks wat OpenAI omschrijft als een kleine aanhang, illustreren de bevindingen van het bedrijf hoe met Rusland gelinkte actoren naar verluidt AI hebben ingezet om hun propagandacampagnes op te voeren. Voor OpenAI laat de zaak bovendien zien hoe generatieve tools niet alleen kunnen worden gebruikt om tekst te produceren, maar ook kunnen bijdragen aan een bredere geloofwaardigheidsstrategie rond nepexperts, gekopieerd onderzoek en gecoördineerde versterking op verschillende platforms.

Eerder dit jaar zei OpenAI een andere operatie te hebben verstoord die het naar Rusland herleidde en die ChatGPT gebruikte om Duitstalige politieke content te genereren in de aanloop naar de federale verkiezingen in Duitsland. Die campagne bekritiseerde de VS en de NAVO, verspreidde content via Telegram en X en creëerde AI-gegenereerd materiaal ter steun van de Duitse extreemrechtse partij Alternative für Deutschland.

Daarnaast gebruikten Russischtalige cybercriminelen dit jaar alleen al de AI-codeerassistent Cursor van SpaceX om in te breken bij een Belgisch chemisch bedrijf en zes andere bedrijven, volgens een rapport van Reuters waarin gegevens worden aangehaald van cybersecuritybedrijf Gambit Security.

Bron: Fortune · Bedreigingsinformatierapport van OpenAI (PDF)