OpenAI hat eine „Gruppe“ von ChatGPT-Konten gesperrt, die nach Angaben des Unternehmens Teil einer pro-russischen Einflussoperation war, die darauf abzielte, westliche Länder herabzusetzen und zugleich eine auf fehlzuordneter akademischer Forschung basierende Denkfabrik zu bewerben.

In einem Blogbeitrag in dieser Woche erklärte das Unternehmen, die gesperrten Nutzer hätten VPNs verwendet, um die Beschränkungen für russische Nutzer zu umgehen, und dann seine Technologie genutzt, um Beiträge in sozialen Medien zu erstellen, die das International Burke Institute (IBI) bewarben — eine Organisation, die sich als in Israel ansässige „Expertengemeinschaft“ beschreibt, die OpenAI jedoch als den „Kern“ einer russischen Einflussoperation einordnet.

Nach Angaben von OpenAI führt die Denkfabrik — deren Website weiterhin online ist — prominente Persönlichkeiten wie den amerikanischen Linguisten und Intellektuellen Noam Chomsky sowie den amerikanischen Politikwissenschaftler und Autor Francis Fukuyama unter ihren Mitwirkenden auf. Weder Chomsky noch Fukuyama reagierten umgehend auf Fortunes Anfragen um Stellungnahme. Eine auf der Seite genannte Autorin sagte, sie habe keine Ahnung gehabt, dass die Website ihren Namen verwendet, bis Fortune sich bei ihr meldete. Andere aufgeführte Expertinnen und Experten, darunter Shlomo Avineri und Jiang Ping, starben vor der Gründung des IBI.

OpenAI sagte, die im Februar 2025 registrierte Website habe außerdem einen „sovereignty index“ enthalten, der Russland begünstige, sowie Dutzende Artikel mit falsch zugeordneten Autorenschaften. Eine Überprüfung der Website des Burke Institute über die Wayback Machine durch Fortune ergab, dass die Seite zwar seit Februar vergangenen Jahres existierte, vor Oktober 2025 jedoch nichts auf der Seite veröffentlicht worden war.

Das Institut wies die Vorwürfe zurück. Als Reaktion auf die Berichterstattung des französischen Mediums Le Monde über die Behauptungen von OpenAI veröffentlichte es eine Erklärung, in der jede Andeutung zurückgewiesen wurde, es handle sich nicht um eine legitime Denkfabrik.

„Die Tatsache, dass Dritte eine IBI-Publikation, den Namen des Instituts oder Ergebnisse aus dem Sovereignty Index verwenden oder zitieren, stellt für sich genommen keinen Beweis für Kooperation, Koordination, Finanzierung oder einen gemeinsamen zugrunde liegenden Zweck dar“, hieß es in der Erklärung.

Das Burke Institute reagierte zunächst nicht auf eine Stellungnahmeanfrage von Fortune, die an die öffentlich auf der Website genannte E-Mail-Adresse gesendet wurde. OpenAI sagte, seinen Untersuchungen zufolge hätten einige wenige Personen in Israel das Burke Institute in Interviews und auf Konferenzen vertreten.

Verwendung echter Namen von Forschenden

Die Überprüfung der Artikel des Burke Institute durch das KI-Unternehmen ergab, dass 34 von 36 echte akademische Artikel waren, die anderen Autorinnen und Autoren fälschlich zugeschrieben worden waren. Ein von OpenAI veröffentlichtes Screenshot zeigte einen legitimen Artikel auf der Website des Burke Institute zur Migrationssteuerung, der vom Migration Policy Institute übernommen, aber Kate Howell, einer Professorin für Lebensmittelwissenschaften an der University of Melbourne, zugeschrieben worden war; zudem war ein aus dem Internet stammendes Porträtfoto verwendet worden. Seit der Veröffentlichung des Blogbeitrags durch OpenAI hat die Website die Zuschreibung des Artikels auf eine der tatsächlichen Autorinnen, Kate Hooper, eine Senior Policy Analyst beim Migration Policy Institute, geändert. Hooper reagierte zunächst nicht auf eine Stellungnahmeanfrage.

Eine weitere Professorin, die auf der Website des Burke Institute als Expertin aufgeführt war, ist Susan Ariel Aaronson, Professorin für internationale Angelegenheiten an der George Washington University. Ein legitimer Artikel, den sie für das Centre for International Governance Innovation verfasst hatte, wurde auf der Website mit einem Download-Link veröffentlicht.

Aaronson, die auch Co-Principal Investigator beim NSF-NIST Institute for Trustworthy AI in Law \u0026 Society (TRAILS) ist, sagte gegenüber Fortune, dass sie in keiner Weise mit dem Burke Institute verbunden sei. Am Telefon bezeichnete sie die Situation als beunruhigend.

„Vertrauen ist in der Governance von KI wirklich wichtig, und hier haben Sie diese wirklich seltsame, wissen Sie, Situation, die erhebliches Misstrauen verursacht, und das ist einfach wirklich beunruhigend“, sagte sie.

Sie beklagte außerdem, dass es auf Bundesebene nur wenige regulatorische Instrumente gebe, um mit solchen Fällen umzugehen, und dass dies von oben angegangen werden müsse.

„Die Trump-Regierung tut nichts, um sie wirksam zu regulieren, und regiert KI auf undurchsichtige Weise. Diese Undurchsichtigkeit schafft kein Vertrauen“, fügte sie hinzu.

Andere Artikel auf der Website des Burke Institute scheinen laut OpenAI aus einer slawischen Sprache ins Englische übersetzt worden zu sein, gestützt auf Hinweise wie die Verwendung des Wortes „svetofor“, das in mehreren slawischen Sprachen, darunter Russisch, „Ampel“ bedeutet.

Verbreitung über soziale Plattformen

OpenAI behauptet, die ChatGPT-Nutzer hätten zahlreiche Beiträge in sozialen Medien erstellt, um das Institut zu bewerben. Einige stammten von Konten, die den Namen und das Branding des International Burke Institute trugen, andere von erfundenen Personen, die das Institut auf Facebook, LinkedIn und X sowie auf Substack und Telegram bewarben.

OpenAI sagte, Beiträge von Einzelkonten hätten „nur niedrige Aufrufzahlen“ erhalten und die offiziellen Konten des Instituts hätten „niedrige Abonnentenzahlen“ gehabt. Auf der Messaging-Plattform Telegram seien die Betreiber jedoch in der Lage gewesen, ein größeres Publikum von jeweils zwischen 10.000 und 20.000 Followern pro Kanal zu erreichen.

Trotz dessen, was OpenAI als kleine Anhängerschaft beschreibt, verdeutlichen die Ergebnisse des Unternehmens, wie mit Russland verbundene Akteure KI Berichten zufolge genutzt haben, um ihre Propagandakampagnen auszuweiten. Für OpenAI zeigt der Fall auch, wie generative Werkzeuge nicht nur zur Texterzeugung eingesetzt werden können, sondern auch dazu, eine umfassendere Glaubwürdigkeitsstrategie rund um falsche Experten, kopierte Forschung und koordinierte Verbreitung über mehrere Plattformen aufzubauen.

Bereits in diesem Jahr sagte OpenAI, es habe eine weitere Operation unterbunden, die es nach Russland zurückverfolgte und die ChatGPT nutzte, um vor der Bundestagswahl in Deutschland deutschsprachige politische Inhalte zu erzeugen. Diese Kampagne kritisierte die USA und die NATO, verbreitete Inhalte über Telegram und X und erstellte KI-generiertes Material zur Unterstützung der rechtsextremen Partei Alternative für Deutschland.

Separat nutzten russischsprachige Cyberkriminelle laut einem Reuters-Bericht unter Berufung auf Daten des Cybersicherheitsunternehmens Gambit Security SpaceX’ KI-Coding-Assistenten Cursor, um in diesem Jahr allein ein belgisches Chemieunternehmen sowie sechs weitere Unternehmen zu hacken.

Quelle: Fortune · OpenAI threat-intelligence report (PDF)