OpenAI zablokowało zestaw kont ChatGPT, które – według oceny firmy – z dużym prawdopodobieństwem pochodziły z Rosji. Konta te promowały rzekomy izraelski instytut publikujący skopiowane badania pod nazwiskami naukowców. Większość postów osiągała niewielką liczbę wyświetleń, choć powiązane kanały na Telegramie miały po maksymalnie 20 000 obserwujących.

Sieć działająca z Rosji wykorzystywała ChatGPT do promowania organizacji, która przedstawiała się jako instytut akademicki – wynika z opublikowanego w środę raportu OpenAI (raport OpenAI).

OpenAI poinformowało, że zablokowało grupę kont, których operatorzy używali promptów w języku rosyjskim do generowania postów i komentarzy w mediach społecznościowych, pisanych głównie po angielsku. Operatorzy ponadto instruowali ChatGPT, aby ukrywał ślady wskazujące na rosyjskie pochodzenie treści.

„Chociaż kampania dotarła do stosunkowo niewielkich odbiorców, jej rozbudowana konstrukcja odróżnia ją od innych operacji wpływu powiązanych z Rosją, które zakłóciliśmy od początku wojny w Ukrainie” – napisała firma.

Ponieważ ChatGPT nie jest dostępny w Rosji, OpenAI podało, że grupa używała wirtualnych sieci prywatnych (VPN), aby ukryć swoją lokalizację i uzyskać dostęp do usługi.

Grupa wykorzystywała ChatGPT do promowania International Burke Institute (IBI), który podawał się za zespół ekspertów z siedzibą w Izraelu – poprzez oficjalnie wyglądające profile oraz konta podszywające się pod zwykłych użytkowników. OpenAI ustaliło, że 34 z 36 przeanalizowanych artykułów na stronie instytutu stanowiły kopie, a część przypisano naukowcom, którzy ich nie napisali.

„Niektóre z tych artykułów miały kilka lat; inne zostały przypisane niewłaściwym autorom” – napisało OpenAI. „Na przykład jeden z artykułów o Chińsko-Pakistańskim Korytarzu Ekonomicznym wygląda na skopiowany z oryginału Cambridge University Press, ale został błędnie przypisany profesorowi Uniwersytetu Nottingham, którego specjalizacją jest polityka Azji Południowej.”

Wykorzystanie sfabrykowanej fasady akademickiej odzwierciedla szerszą technikę stosowaną w operacjach wpływu, znaną jako „pranie wiarygodności”: fałszywe lub przetworzone „badania” przypisane rzeczywistym naukowcom mogą nadawać politycznym narracjom pozory legitymizacji i być wzmacniane przez fałszywe persony cytujące rzekome prace instytutu. OpenAI zauważyło, że persony promujące treści IBI komentowały także bieżące wydarzenia na Bliskim Wschodzie, w Europie i Stanach Zjednoczonych, gdzie skradzione materiały akademickie mogły służyć jako pozorne niezależne potwierdzenie.

Podobne kampanie wpływu politycznego wcześniej wykorzystywały generatywną AI. W 2024 roku OpenAI zidentyfikowało odrębną kampanię powiązaną z Rosją, znaną jako Doppelganger, która używała ChatGPT do tworzenia artykułów, postów i komentarzy w mediach społecznościowych chwalących Rosję i atakujących Ukrainę, NATO oraz Stany Zjednoczone. OpenAI publikuje cykliczne raporty o złośliwym wykorzystaniu swoich modeli, a sprawa IBI jest najnowszą w serii ujawnionych od początku wojny w Ukrainie działań, które firma zakłóciła — rytm ten uczynił raporty o zagrożeniach firmy głównym publicznym oknem na to, jak podmioty państwowe i tajne próba przekształcić konsumenckie narzędzia AI w broń.

Grupy powiązane z Rosją wykorzystywały ChatGPT także do operacji cybernetycznych. OpenAI podało, że Forest Blizzard, grupa powiązana z rosyjskim wywiadem wojskowym, używała czatbota do badania celów, pisania skryptów i wspierania ataków phishingowych.

Chociaż grupa mogła używać promptów w języku rosyjskim, OpenAI nie przypisało kampanii IBI rządowi rosyjskiemu. Według OpenAI niektóre osoby w Izraelu mogły reprezentować instytut na konferencjach lub poprzez zgłaszanie artykułów, jednak ich związek z kampanią pozostaje niejasny.

„Nie jesteśmy w stanie ustalić relacji między tymi osobami, IBI a operatorami w Rosji” – napisało OpenAI. Dla badaczy i platform śledzących takie sieci sprawa ilustruje wyzwanie weryfikacyjne, które prawdopodobnie się powtórzy: materiały wpływu noszące znamiona naukowości — cytowania, afiliacje autorskie, branding instytucjonalny — mogą być fabrykowane lub recyklowane za pomocą generatywnej AI, a przyszłe ujawnienia w raportach dotyczących zakłóceń operacji przez OpenAI to miejsce, w którym należy szukać podobnych fasad.