OpenAI 已封禁一批其评估极有可能来自俄罗斯的 ChatGPT 账户。这些账户推广了一个名义上的以色列研究所，该机构以学者的名义发布抄袭的研究。大多数帖子的浏览量很少，但相关联的 Telegram 频道各拥有多达 20,000 名关注者。

根据 OpenAI 周三发布的报告，一个源自俄罗斯的网络利用 ChatGPT 推广了一个自称学术机构的组织。

OpenAI 表示，其封禁了一组账户，运营者使用俄语提示词生成社交媒体帖子和评论（主要以英文撰写），并指示 ChatGPT 隐藏内容源自俄罗斯的迹象。

该公司写道：“尽管该活动触及的受众相对有限，但其精密的构造使其区别于自乌克兰战争爆发以来我们已瓦解的其他与俄罗斯有关的影响力行动。”

由于 ChatGPT 在俄罗斯无法使用，OpenAI 称该组织利用虚拟专用网络（VPN）伪装其位置并访问该服务。

该组织利用 ChatGPT 推广“国际伯克研究所”（IBI），该机构自称是一家位于以色列的专家团体，通过看似官方的资料页面以及伪装成普通用户的账户进行宣传。OpenAI 发现，其在研究所网站上审查的 36 篇文章中有 34 篇系抄袭，其中一些还被署名给并未撰写这些文章的学者。

OpenAI 写道：“其中一些文章已有数年历史；另一些则被署给了错误的作者。例如，一篇关于中巴经济走廊的文章似乎抄袭自剑桥大学出版社的原文，却被错误地署名给一位专攻南亚政治的诺丁汉大学教授。”

使用捏造的学术幌子反映了影响力行动中一种更广泛的技术，即所谓的“信誉洗白”：以真实学者名义出现的虚假或挪用的“研究”可以为政治叙事披上合法性的外衣，并可通过引用该研究所成果的虚假人设加以放大。OpenAI 指出，推送 IBI 内容的人设还对中东、欧洲和美国的时事发表评论，在这些场合，被窃取的学术材料可以充当表面上独立的佐证。

类似的政治影响力行动此前也曾使用生成式 AI。2024 年，OpenAI 识别出一个名为“Doppelganger”的另一个与俄罗斯有关联的活动，该网络利用 ChatGPT 生成文章、社交媒体帖子和评论，赞扬俄罗斯并攻击乌克兰、北约和美国。OpenAI 定期发布关于其模型被恶意使用的报告，IBI 案例是自乌克兰战争爆发以来其披露的一系列取缔行动中的最新一例——这一节奏使该公司的威胁报告成为观察国家关联和隐蔽行为者如何试图将消费级 AI 工具武器化的主要公共窗口。

与俄罗斯有关联的组织也曾将 ChatGPT 用于网络行动。OpenAI 表示，与俄罗斯军事情报机构有关的 Forest Blizzard 组织利用该聊天机器人研究目标、编写脚本并支持钓鱼攻击。

尽管该组织可能使用了俄语提示词，OpenAI 并未将 IBI 行动归因于俄罗斯政府。据 OpenAI 称，以色列的一些人可能曾在会议上或通过文章投稿代表该研究所，但他们与该活动的关系仍不明确。

OpenAI 写道：“我们无法确定这些个人、IBI 以及俄罗斯运营者之间的关系。”对于追踪此类网络的研究人员和平台而言，该案例展示了一个可能反复出现的验证难题：带有学术外表的影响力材料——引用、作者隶属机构、机构品牌——可能通过生成式 AI 被捏造或回收利用，OpenAI 后续干扰报告中未来的披露将是观察类似幌子组织的重要窗口。