OpenAI 已封鎖一批其評估極可能來自俄羅斯的 ChatGPT 帳號。這些帳號宣傳一個表面上的以色列研究機構，該機構以學者名義發布抄襲的研究。大多數貼文瀏覽量很少，但相關的 Telegram 頻道各自擁有多達 20,000 名追蹤者。

根據 OpenAI 週三發布的報告（OpenAI 報告），一個源自俄羅斯的網路利用 ChatGPT 宣傳一個自稱學術機構的組織。

OpenAI 表示，其封鎖了一組帳號，操作者使用俄語提示生成社群媒體貼文與留言，其中大多數以英文撰寫。操作者還指示 ChatGPT 隱藏內容源自俄羅斯的跡象。

該公司寫道：「儘管這次行動似乎只觸及相對較小的受眾，但其縝密的結構使其有別於自烏克蘭戰爭爆發以來我們已瓦解的其他與俄羅斯有關的影響力行動。」

由於 ChatGPT 在俄羅斯無法使用，OpenAI 表示該團體利用虛擬私人網路（VPN）掩蓋其位置並存取該服務。

該團體利用 ChatGPT 宣傳「國際伯克研究所」（IBI），該組織自稱是位於以色列的專家團體，透過看似官方的個人檔案以及偽裝成普通用戶的帳號進行推廣。OpenAI 發現，在其審查的該研究所網站上的 36 篇文章中，有 34 篇屬抄襲，且部分文章被署名給並未撰寫這些文章的學者。

OpenAI 寫道：「其中一些文章已是數年前的舊文；其他則被署名給錯誤的作者。例如，一篇關於中巴經濟走廊的文章似乎是抄襲自劍橋大學出版社的原文，卻被錯誤地署名給一名專長為南亞政治的諾丁漢大學教授。」

使用虛構的學術門面反映了影響力行動中一種更廣泛的手法，即所謂的「信譽洗白」：將虛假或挪用的「研究」署名給真實學者，可為政治敘事披上合法性的外觀，並可透過引用該研究所作品的假人設加以放大。OpenAI 指出，推廣 IBI 內容的人設也就中東、歐洲和美國的時事發表評論，在這些情境中，被竊取的學術材料可被用作表面上獨立的佐證。

類似的政治影響力行動此前也曾使用生成式 AI。2024 年，OpenAI 識別出一個名為「Doppelganger」的獨立俄羅斯關聯行動，該網路利用 ChatGPT 撰寫文章、社群媒體貼文與留言，內容讚揚俄羅斯並攻擊烏克蘭、北約和美國。OpenAI 定期發布有關其模型遭惡意使用的報告，而 IBI 案件是自烏克蘭戰爭爆發以來其揭露的一系列取締行動中的最新一起——這一發布節奏使該公司的威脅報告成為外界了解國家關聯及隱密行為者如何試圖將消費級 AI 工具武器化的主要公開窗口。

與俄羅斯有關的團體也曾將 ChatGPT 用於網路行動。OpenAI 表示，與俄羅斯軍事情報機構有關的「Forest Blizzard」組織曾利用該聊天機器人研究目標、撰寫腳本並支援釣魚攻擊。

雖然該團體可能使用了俄語提示，OpenAI 並未將 IBI 行動歸咎於俄羅斯政府。據 OpenAI 稱，一些以色列人士可能曾代表該研究所出席會議或提交文章，但他們與該行動的關係仍不明朗。

OpenAI 寫道：「我們無法確定這些個人、IBI 以及俄羅斯操作者之間的關係。」對於追蹤此類網路的研究人員與平台而言，此案說明了一個可能反覆出現的驗證難題：帶有學術外觀的影響力素材——引註、作者隸屬機構、機構品牌——可透過生成式 AI 被偽造或回收再利用，而 OpenAI 未來的干擾行動揭露報告將是觀察類似門面的重點所在。