OpenAI zablokowało „klaster” kont ChatGPT, o których mówi, że stanowiły część prorosyjnej operacji wpływu mającej na celu dyskredytowanie krajów Zachodu oraz promowanie think tanku zbudowanego na błędnie przypisanych pracach akademickich.

W opublikowanym w tym tygodniu wpisie na blogu firma podała, że zablokowani użytkownicy korzystali z VPN-ów, aby obejść ograniczenie dotyczące użytkowników z Rosji, a następnie używali jej technologii do tworzenia postów w mediach społecznościowych promujących International Burke Institute (IBI) — organizację, która określa się jako mająca siedzibę w Izraelu „ekspercka społeczność”, lecz którą OpenAI identyfikuje jako „rdzeń” rosyjskiej operacji wpływu.

Według OpenAI think tank — którego strona nadal jest dostępna online — wymienia wśród swoich współpracowników tak znane osoby jak amerykański lingwista i intelektualista Noam Chomsky oraz amerykański politolog i autor Francis Fukuyama. Ani Chomsky, ani Fukuyama nie odpowiedzieli od razu na prośby Fortune o komentarz. Jedna z autorek wymienionych na stronie powiedziała, że nie miała pojęcia, iż witryna używa jej nazwiska, dopóki Fortune się z nią nie skontaktowało. Inni wymienieni eksperci, w tym Shlomo Avineri i Jiang Ping, zmarli przed założeniem IBI.

OpenAI podało, że strona internetowa zarejestrowana w lutym 2025 r. zawierała także „indeks suwerenności”, który faworyzował Rosję, a także dziesiątki artykułów z błędnie przypisanym autorstwem. Przegląd witryny Burke Institute w Wayback Machine przeprowadzony przez Fortune wykazał, że choć strona istniała już w lutym ubiegłego roku, przed październikiem 2025 r. nie opublikowano na niej niczego.

Instytut odrzucił te zarzuty. W odpowiedzi na relację francuskiego portalu Le Monde o twierdzeniach OpenAI opublikował oświadczenie, w którym odrzucił sugestię, że nie jest legalnym think tankiem.

„Sam fakt, że osoby trzecie korzystają z publikacji IBI lub ją cytują, używają nazwy Instytutu albo wniosków z Sovereignty Index, nie stanowi sam w sobie dowodu współpracy, koordynacji, finansowania ani wspólnego, nadrzędnego celu” — czytamy w oświadczeniu.

Burke Institute nie odpowiedział od razu na prośbę Fortune o komentarz wysłaną na publicznie podany na stronie adres e-mail. OpenAI podało, że według jego ustaleń kilka osób w Izraelu reprezentowało Burke Institute w wywiadach i na konferencjach.

Korzystanie z nazwisk prawdziwych badaczy

Przegląd artykułów Burke Institute przeprowadzony przez firmę AI wykazał, że 34 z 36 to autentyczne prace akademickie błędnie przypisane innym autorom. Zrzut ekranu opublikowany przez OpenAI pokazywał prawdziwy artykuł o zarządzaniu migracją zamieszczony na stronie Burke Institute: pochodził on z Migration Policy Institute, ale przypisano go Kate Howell, profesor nauk o żywności na University of Melbourne, a obok umieszczono zdjęcie portretowe pobrane z internetu. Od czasu publikacji wpisu na blogu przez OpenAI strona zmieniła atrybucję artykułu na jedną z rzeczywistych autorek, Kate Hooper, starszą analityczkę ds. polityki w Migration Policy Institute. Hooper nie odpowiedziała od razu na prośbę o komentarz.

Inną profesorką wymienioną jako ekspertka na stronie Burke Institute była Susan Ariel Aaronson, profesor spraw międzynarodowych na George Washington University. Prawdziwy artykuł jej autorstwa dla Centre for International Governance Innovation został opublikowany na stronie wraz z linkiem do pobrania.

Aaronson, która jest także współgłówną badaczką w NSF-NIST Institute for Trustworthy AI in Law \u0026 Society (TRAILS), powiedziała Fortune, że nie była w żaden sposób związana z Burke Institute. Zapytana przez telefon, określiła sytuację jako niepokojącą.

„Zaufanie jest naprawdę ważne w zarządzaniu AI, a tutaj mamy bardzo dziwną sytuację, która powoduje poważną utratę zaufania, i to jest po prostu naprawdę niepokojące” — powiedziała.

Dodała też, że na poziomie federalnym istnieje niewiele regulacji pozwalających radzić sobie z takimi przypadkami i że problem trzeba rozwiązywać od góry.

„Administracja Trumpa nic nie robi, by skutecznie tym zarządzać, i zarządza AI w sposób nieprzejrzysty. Taka nieprzejrzystość nie buduje zaufania” — dodała.

Według OpenAI inne artykuły na stronie Burke Institute wydają się być przetłumaczone na angielski z języka słowiańskiego, na co wskazują takie ślady jak użycie słowa „svetofor”, które oznacza sygnalizator świetlny w kilku językach słowiańskich, w tym po rosyjsku.

Wzmacnianie przekazu w mediach społecznościowych

OpenAI twierdzi, że użytkownicy ChatGPT stworzyli liczne posty w mediach społecznościowych promujące instytut. Część z nich pochodziła z kont używających nazwy i brandingu International Burke Institute, a inne od fikcyjnych osób promujących instytut na Facebooku, LinkedIn i X, a także w Substacku i Telegramie.

OpenAI podało, że posty z kont indywidualnych „uzyskały jedynie niewielką liczbę wyświetleń”, a oficjalne konta instytutu miały „niską liczbę subskrybentów”. Na platformie komunikacyjnej Telegram operatorom udało się jednak przyciągnąć większą publiczność, liczącą od 10 000 do 20 000 obserwujących na kanał.

Mimo tego, co OpenAI określa jako niewielkie zasięgi, ustalenia firmy pokazują, jak aktorzy powiązani z Rosją mieli wykorzystywać AI do nasilania kampanii propagandowych. Dla OpenAI sprawa pokazuje również, że narzędzia generatywne mogą służyć nie tylko do tworzenia tekstu, lecz także do budowania szerszej strategii wiarygodności opartej na fałszywych ekspertach, skopiowanych badaniach i skoordynowanym wzmacnianiu przekazu na różnych platformach.

Wcześniej w tym roku OpenAI podało, że zakłóciło inną operację, którą powiązało z Rosją i która wykorzystywała ChatGPT do generowania niemieckojęzycznych treści politycznych przed wyborami federalnymi w Niemczech. Kampania krytykowała USA i NATO, rozpowszechniała treści przez Telegram i X oraz tworzyła materiały generowane przez AI wspierające skrajnie prawicową niemiecką partię Alternative für Deutschland.

Oddzielnie rosyjskojęzyczni cyberprzestępcy wykorzystali asystenta kodowania AI firmy SpaceX, Cursor, do włamania się do belgijskiej firmy chemicznej oraz sześciu innych spółek tylko w tym roku — wynika z raportu Reutersa cytującego dane firmy cyberbezpieczeństwa Gambit Security.

Źródło: Fortune · Raport OpenAI o zagrożeniach (PDF)