OpenAI заблокировала ряд аккаунтов ChatGPT, которые, по её оценке, с высокой вероятностью происходили из России. Эти аккаунты продвигали мнимый израильский институт, публиковавший скопированные исследования под именами учёных. Большинство публикаций собрали мало просмотров, хотя связанные Telegram-каналы насчитывали до 20 000 подписчиков каждый.

Сеть, действовавшая из России, использовала ChatGPT для продвижения организации, представлявшейся академическим институтом, сообщает OpenAI в отчёте, опубликованном в среду (отчёт OpenAI).

OpenAI сообщила, что заблокировала группу аккаунтов, операторы которых использовали русскоязычные промпты для генерации постов и комментариев в соцсетях, в основном на английском языке. Операторы также поручали ChatGPT скрывать признаки российского происхождения контента.

«Хотя кампания, по-видимому, охватила относительно небольшую аудиторию, её продуманная структура отличает её от других связанных с Россией операций влияния, которые мы пресекли с начала войны в Украине», — написала компания.

Поскольку ChatGPT недоступен в России, группа, по данным OpenAI, использовала виртуальные частные сети (VPN), чтобы скрыть своё местоположение и получить доступ к сервису.

Группа использовала ChatGPT для продвижения International Burke Institute (IBI), который выдавал себя за базирующуюся в Израиле группу экспертов, — через официального вида профили и аккаунты, притворявшиеся обычными пользователями. OpenAI установила, что 34 из 36 проверенных статей на сайте института были скопированы, а некоторые были приписаны учёным, которые их не писали.

«Некоторые из этих статей были написаны много лет назад; другие были приписаны не тем авторам, — написала OpenAI. — Например, статья о китайско-пакистанском экономическом коридоре, по всей видимости, скопирована из оригинала Cambridge University Press, но ошибочно приписана профессору Ноттингемского университета, чья специализация — политика Южной Азии».

Использование сфабрикованного академического фасада отражает более широкую технику операций влияния, известную как «отмывание доверия»: ложные или переработанные «исследования», приписанные реальным учёным, могут придавать политическим нарративам видимость легитимности и распространяться фальшивыми персонами, ссылающимися на работы мнимого института. OpenAI отметила, что персоны, продвигавшие контент IBI, также комментировали текущие события на Ближнем Востоке, в Европе и США, где украденные академические материалы могли служить видимым независимым подтверждением.

Похожие кампании политического влияния ранее уже использовали генеративный ИИ. В 2024 году OpenAI выявила отдельную связанную с Россией кампанию под названием Doppelganger, которая использовала ChatGPT для создания статей, постов и комментариев в соцсетях, восхвалявших Россию и атаковавших Украину, НАТО и США. OpenAI регулярно публикует отчёты о злоумышленном использовании своих моделей, и дело IBI — последнее в серии разоблачённых с начала войны в Украине блокировок, что сделало отчёты компании об угрозах основным публичным окном в то, как связанные с государствами и скрытые субъекты пытаются использовать потребительские ИИ-инструменты в качестве оружия.

Связанные с Россией группы использовали ChatGPT и для киберопераций. По данным OpenAI, группа Forest Blizzard, связанная с российской военной разведкой, использовала чат-бот для изучения целей, написания скриптов и поддержки фишинговых атак.

Хотя группа могла использовать русскоязычные промпты, OpenAI не стала приписывать кампанию IBI российскому правительству. По словам OpenAI, некоторые лица в Израиле могли представлять институт на конференциях или через подачу статей, однако их связь с кампанией остаётся неясной.

«Мы не можем определить характер отношений между этими лицами, IBI и операторами в России», — написала OpenAI. Для исследователей и платформ, отслеживающих подобные сети, этот случай демонстрирует вероятную в будущем проблему верификации: материалы влияния, несущие атрибуты научной работы — цитаты, указания авторской и институциональной принадлежности, брендинг — могут быть сфабрикованы или переработаны с помощью генеративного ИИ, и будущие разоблачения в отчётах OpenAI о пресечённых операциях — то место, где стоит искать подобные фасады.