OpenAI ha bloccato una serie di account ChatGPT che ha valutato come molto probabilmente originari dalla Russia. Gli account promuovevano un presunto istituto israeliano che pubblicava ricerche copiate a nome di accademici. La maggior parte dei post ha ricevuto poche visualizzazioni, sebbene i canali Telegram associati avessero fino a 20.000 follower ciascuno.

Una rete di origine russa ha utilizzato ChatGPT per promuovere un'organizzazione che si presentava come un istituto accademico, secondo un rapporto di OpenAI pubblicato mercoledì (rapporto di OpenAI).

OpenAI ha dichiarato di aver bloccato un gruppo di account i cui operatori utilizzavano prompt in lingua russa per generare post e commenti sui social media, per lo più scritti in inglese. Gli operatori inoltre istruivano ChatGPT a nascondere i segnali che il contenuto fosse di origine russa.

"Sebbene la campagna sembri aver raggiunto pubblici relativamente ridotti, la sua costruzione elaborata la distingue dalle altre operazioni di influenza legate alla Russia che abbiamo smantellato dall'inizio della guerra in Ucraina", ha scritto l'azienda.

Poiché ChatGPT non è disponibile in Russia, OpenAI ha affermato che il gruppo ha utilizzato reti private virtuali (VPN) per mascherare la propria posizione e accedere al servizio.

Il gruppo ha usato ChatGPT per promuovere l'International Burke Institute (IBI), che sosteneva di essere un gruppo di esperti con sede in Israele, tramite profili dall'aspetto ufficiale e account che si spacciavano per utenti ordinari. OpenAI ha riscontrato che 34 dei 36 articoli esaminati sul sito dell'istituto erano copiati e alcuni erano attribuiti ad accademici che non li avevano scritti.

"Alcuni di questi articoli avevano diversi anni; altri erano attribuiti agli autori sbagliati", ha scritto OpenAI. "Ad esempio, un articolo sul Corridoio Economico Cina-Pakistan sembra essere stato copiato da un originale di Cambridge University Press, ma attribuito erroneamente a un professore dell'Università di Nottingham la cui competenza riguarda la politica dell'Asia meridionale."

L'uso di un fronte accademico fabbricato riflette una tecnica più ampia nelle operazioni di influenza nota come credibilità di facciata: ricerche false o riciclate attribuite a studiosi reali possono conferire un'apparenza di legittimità a narrazioni politiche, e possono essere amplificate da falsi personaggi che citano il presunto lavoro dell'istituto. OpenAI ha osservato che i personaggi che diffondevano i contenuti dell'IBI commentavano anche attualità in Medio Oriente, Europa e Stati Uniti, dove il materiale accademico rubato poteva servire come apparente conferma indipendente.

Campagne di influenza politica simili hanno in precedenza utilizzato l'IA generativa. Nel 2024 OpenAI ha identificato una campagna separata legata alla Russia, nota come Doppelganger, che usava ChatGPT per creare articoli, post sui social media e commenti che elogiavano la Russia e attaccavano Ucraina, NATO e Stati Uniti. OpenAI pubblica rapporti ricorrenti sugli usi dannosi dei propri modelli, e il caso IBI è l'ultimo di una serie di smantellamenti divulgati dall'inizio della guerra in Ucraina — un ritmo che ha reso i rapporti sulle minacce dell'azienda una finestra pubblica primaria su come attori statali e occulti tentano di trasformare gli strumenti di IA per consumatori in armi.

Gruppi legati alla Russia hanno inoltre utilizzato ChatGPT per operazioni informatiche. OpenAI ha dichiarato che Forest Blizzard, un gruppo legato ai servizi di intelligence militare russi, ha usato il chatbot per ricercare obiettivi, scrivere script e supportare attacchi di phishing.

Sebbene il gruppo possa aver usato prompt in lingua russa, OpenAI non ha attribuito la campagna IBI al governo russo. Secondo OpenAI, alcune persone in Israele potrebbero aver rappresentato l'istituto in conferenze o tramite l'invio di articoli, ma il loro rapporto con la campagna resta poco chiaro.

"Non siamo in condizione di determinare il rapporto tra queste persone, l'IBI e gli operatori in Russia", ha scritto OpenAI. Per i ricercatori e le piattaforme che monitorano tali reti, il caso illustra una sfida di verifica destinata a ripresentarsi: materiale di influenza che porta i contrassegni della ricerca accademica — citazioni, affiliazioni degli autori, branding istituzionale — può essere fabbricato o riciclato con l'IA generativa, e future rivelazioni nei rapporti di disruption di OpenAI sono un punto da osservare per fronti simili.