OpenAIは、ロシアからの発信である可能性が非常に高いと判断した一連のChatGPTアカウントを禁止した。これらのアカウントは、研究者の名義でコピーした研究を発表する偽装されたイスラエルの研究所を宣伝していた。投稿の大半は閲覧数が少なかったが、関連するTelegramチャンネルにはそれぞれ最大2万人のフォロワーがいた。

水曜日に公開されたOpenAIの報告書(OpenAIレポート)によると、ロシア発のネットワークが、学術研究所を装う組織を宣伝するためにChatGPTを利用していた。

OpenAIは、運営者がロシア語のプロンプトを使用して、主に英語でのソーシャルメディア投稿やコメントを生成していたアカウントグループを禁止したと述べた。運営者はまた、コンテンツのロシア起源の痕跡を隠すようChatGPTに指示していた。

同社は「このキャンペーンは比較的小規模なオーディエンスにしか到達していないように見えるものの、その精巧な構造は、ウクライナ戦争開始以降に我々が妨害してきた他のロシア関連の影響力作戦とは一線を画している」と記した。

ロシアではChatGPTが利用できないため、このグループは仮想プライベートネットワーク(VPN)を使って所在地を偽装しサービスにアクセスしていたと、OpenAIは述べた。

このグループは、イスラエル拠点の専門家グループを称する「インターナショナル・バーク研究所(IBI)」を、公式っぽいプロフィールや一般ユーザーを装うアカウントを通じて宣伝するためにChatGPTを利用した。OpenAIは、同研究所のウェブサイトで確認した36本の記事のうち34本がコピーであり、一部は執筆していない研究者の名義でクレジットされていたことを発見した。

OpenAIは「これらの記事の一部は数年前のものであり、他のものは誤った著者に帰属していた。たとえば、中パキスタン経済回廊に関するある記事はケンブリッジ大学出版局のオリジナルからコピーされたと思われるが、南アジア政治を専門とするノッティンガム大学の教授に誤って帰属されていた」と記した。

偽の学術的看板の利用は、影響力作戦における「信頼性の洗浄(credibility laundering)」として知られるより広範な手法を反映している。実在の研究者に帰属された虚偽または流用された「研究」は、政治的ナラティブに正当性の外観を与える可能性があり、偽のペルソナがその研究所の業績を引用することで増幅され得る。OpenAIは、IBIのコンテンツを拡散するペルソナが中東、欧州、米国の時事問題にもコメントしており、盗用された学術素材が独立した裏付けのように見せかける手段になり得ると指摘した。

同様の政治的影響力キャンペーンは以前にも生成AIを利用してきた。2024年、OpenAIは「ドッペルゲンガー」と呼ばれる別のロシア関連キャンペーンを特定した。このネットワークはChatGPTを使って、ロシアを称賛し、ウクライナ、NATO、米国を攻撃する記事、ソーシャルメディア投稿、コメントを作成していた。OpenAIは自社モデルの悪用に関する報告書を定期的に公開しており、IBIの事例はウクライナ戦争開始以降に公開されてきた一連の取り締まりの最新事例である。この頻度により、同社の脅威レポートは、国家関連・秘密の行為者が消費者向けAIツールを武器化しようとする様子を知る主要な公的な窓口となっている。

ロシア関連グループはChatGPTをサイバー作戦にも利用してきた。OpenAIによると、ロシア軍情報機関と関連するグループ「フォレスト・ブリザード」は、このチャットボットを標的の調査、スクリプトの作成、フィッシング攻撃の支援に使用していた。

このグループがロシア語のプロンプトを使用していた可能性はあるものの、OpenAIはIBIキャンペーンをロシア政府の仕業とは断定していない。OpenAIによると、イスラエル国内の一部の人物が会議や論文投稿を通じて同研究所を代表していた可能性があるが、彼らとキャンペーンとの関係は不明である。

OpenAIは「我々は、これらの人物、IBI、そしてロシアの運営者との関係を断定できる立場にはない」と記した。こうしたネットワークを追跡する研究者やプラットフォームにとって、この事例は今後も繰り返され得る検証上の課題を示している。引用文献、著者の所属、機関のブランディングといった学術的な体裁を伴う影響力素材は、生成AIによって捏造・再利用され得るものであり、OpenAIの妨害報告書における今後の開示は、同様の偽装組織を見極める注目点となるだろう。