OpenAI a banni un « cluster » de comptes ChatGPT qui, selon l’entreprise, faisait partie d’une opération d’influence pro-russe visant à dénigrer les pays occidentaux tout en promouvant un think tank bâti sur des recherches universitaires mal attribuées.

Dans un article de blog publié cette semaine, l’entreprise a indiqué que les utilisateurs bannis ont eu recours à des VPN pour contourner sa restriction visant les utilisateurs russes, avant d’utiliser sa technologie pour créer des publications sur les réseaux sociaux promouvant l’International Burke Institute (IBI) — une organisation qui se présente comme une « communauté d’experts » basée en Israël, mais qu’OpenAI considère comme le « noyau » d’une opération d’influence russe.

Selon OpenAI, le think tank — dont le site web est toujours en ligne — recense parmi ses contributeurs des figures éminentes telles que le linguiste et intellectuel américain Noam Chomsky ainsi que le politologue et auteur américain Francis Fukuyama. Ni Chomsky ni Fukuyama n’ont répondu immédiatement aux demandes de commentaire de Fortune. Une autrice figurant sur le site a déclaré qu’elle ignorait que le site utilisait son nom jusqu’à ce que Fortune la contacte. D’autres experts recensés, dont Shlomo Avineri et Jiang Ping, sont morts avant la fondation de l’IBI.

OpenAI a précisé que le site web, enregistré en février 2025, hébergeait également un « indice de souveraineté » favorable à la Russie, ainsi que des dizaines d’articles dont l’autorat était mal attribué. Un examen du site du Burke Institute par Fortune via la Wayback Machine a révélé que, bien que le site existait dès février de l’année dernière, rien n’avait été publié sur la page avant octobre 2025.

L’institut a réfuté ces allégations. Répondant à un article du média français Le Monde sur les affirmations d’OpenAI, il a publié un communiqué rejetant toute suggestion selon laquelle il ne s’agirait pas d’un think tank légitime.

« Le fait que des tiers utilisent ou citent une publication de l’IBI, le nom de l’Institut ou les conclusions de l’Indice de souveraineté ne constitue pas en soi une preuve de coopération, de coordination, de financement ou d’un objectif commun sous-jacent », peut-on lire dans le communiqué.

Le Burke Institute n’a pas répondu immédiatement à une demande de commentaire de Fortune envoyée à l’adresse e-mail figurant publiquement sur son site. OpenAI a indiqué que, selon ses recherches, une poignée de personnes en Israël ont représenté le Burke Institute lors d’entretiens et de conférences.

L’utilisation des noms de vrais chercheurs

L’examen des articles du Burke Institute par OpenAI a révélé que 34 d’entre eux sur 36 étaient de véritables articles universitaires attribués à d’autres auteurs. Une capture d’écran publiée par OpenAI montrait un article légitime sur la gouvernance des migrations apparu sur le site du Burke Institute : il provenait du Migration Policy Institute mais était crédité à Kate Howell, professeure de science alimentaire à l’Université de Melbourne, accompagné d’une photo de profil tirée d’internet. Depuis la publication de l’article de blog d’OpenAI, le site a modifié l’attribution de l’article au profit de l’une de ses vraies auteures, Kate Hooper, analyste politique principale au Migration Policy Institute. Hooper n’a pas répondu immédiatement à une demande de commentaire.

Une autre professeure figurant comme experte sur le site du Burke Institute est Susan Ariel Aaronson, professeure d’affaires internationales à l’Université George Washington. Un article légitime qu’elle avait rédigé pour le Centre for International Governance Innovation a été publié sur le site avec un lien de téléchargement.

Aaronson — également co-chercheuse principale au sein du NSF-NIST Institute for Trustworthy AI in Law & Society (TRAILS) — a déclaré à Fortune n’être associée en rien au Burke Institute. Jointe par téléphone, elle a qualifié la situation de dérangeante.

« La confiance est vraiment importante dans la gouvernance de l’IA, et ici on se retrouve avec une situation vraiment étrange, vous savez, qui provoque une méfiance considérable, et c’est donc vraiment dérangeant », a-t-elle déclaré.

Elle a également regretté qu’il existe peu de réglementation au niveau fédéral pour traiter ce type de cas, estimant que la question doit être traitée au plus haut niveau.

« L’administration Trump ne fait rien pour la gouverner efficacement et gouverne l’IA de manière opaque. Or, cette opacité ne construit pas la confiance », a-t-elle ajouté.

Selon OpenAI, d’autres articles du site du Burke Institute semblent avoir été traduits en anglais depuis une langue slave, comme l’indiquent des indices tels que l’emploi du mot « svetofor », qui signifie « feu de circulation » dans plusieurs langues slaves, dont le russe.

Amplification sur les plateformes sociales

OpenAI affirme que les utilisateurs de ChatGPT ont créé de nombreuses publications sur les réseaux sociaux pour promouvoir l’institut. Certaines émanaient de comptes arborant le nom et l’image de marque de l’International Burke Institute, tandis que d’autres provenaient d’individus fictifs qui faisaient la promotion de l’institut sur Facebook, LinkedIn et X, ainsi que sur Substack et Telegram.

OpenAI a indiqué que les publications des comptes individuels n’ont « reçu qu’un faible nombre de vues » et que les comptes officiels de l’institut affichaient un « faible nombre d’abonnés ». Sur la plateforme de messagerie instantanée Telegram, cependant, les opérateurs ont réussi à attirer une audience plus importante, comprise entre 10 000 et 20 000 abonnés par canal.

Malgré ce qu’OpenAI décrit comme une audience modeste, les conclusions de l’entreprise illustrent la manière dont des acteurs liés à la Russie auraient utilisé l’IA pour intensifier leurs campagnes de propagande. Pour OpenAI, cette affaire montre aussi que les outils génératifs peuvent servir non seulement à produire du texte, mais aussi à assembler une stratégie de crédibilité plus large fondée sur de faux experts, des recherches copiées et une amplification coordonnée sur plusieurs plateformes.

Plus tôt cette année, OpenAI a annoncé avoir démantelé une autre opération qu’elle a tracée jusqu’en Russie, laquelle utilisait ChatGPT pour générer du contenu politique en allemand avant les élections fédérales allemandes. Cette campagne critiquait les États-Unis et l’OTAN, diffusait du contenu via Telegram et X, et créait du matériel généré par IA en soutien au parti d’extrême droite allemand Alternative für Deutschland.

Par ailleurs, des cybercriminels russophones ont utilisé Cursor, l’assistant de codage IA de SpaceX, pour pirater une entreprise chimique belge ainsi que six autres entreprises rien que cette année, selon un rapport de Reuters citant des données de la société de cybersécurité Gambit Security.

Source : Fortune · rapport de renseignement sur les menaces d’OpenAI (PDF)