Kłótnie z innymi użytkownikami na X mogą uczyć platformę pokazywania nam więcej postów, których nie znosimy – wynika z nowego badania, które wykazało, że algorytm rekomendacji tej platformy wzmacnia treści niespójne z deklarowanymi wartościami użytkowników.

Badanie opublikowane w poniedziałek w czasopiśmie Proceedings of the National Academy of Sciences wykazało, że algorytm „For You” platformy X wzmacniał treści sprzeczne z deklarowanymi wartościami użytkowników, szczególnie wśród demokratów. Korelacja między wzmacnianymi treściami a deklarowanymi wartościami wyniosła -0.229 dla demokratów wobec -0.041 dla republikanów, przy czym bardziej ujemne wartości oznaczają większą rozbieżność.

„Algorytmy strumieni w mediach społecznościowych porządkują treści, które mają być preferowane przez użytkowników, ale zachowania zaangażowania napędzające te algorytmy są (w najlepszym razie) pośrednimi wskaźnikami wyraźnie deklarowanych przez użytkowników wartości” – napisali badacze. Rankingowanie oparte na przewidywanym zaangażowaniu to standardowa architektura wśród największych platform – TikTok, Instagram i YouTube podobnie budują swoje strumienie wokół modeli prognozujących, z którymi treściami użytkownicy wejdą w interakcje – więc rozbieżność, którą badacze identyfikują między sygnałami zaangażowania a deklarowanymi wartościami, nie jest unikatowa dla rozwiązania stosowanego przez X.

Zgodnie z raportem naukowcy z MIT, University of Michigan, Johns Hopkins, Stanford i Yale przebadali 715 aktywnych amerykańskich użytkowników X we wrześniu i październiku 2024 roku. Uczestnicy zainstalowali rozszerzenie przeglądarki, które zbierało ich strumienie „For You” i „Following”.

Jak donoszono, X pokazywał demokratom więcej treści sprzecznych z ich deklarowanymi wartościami, podczas gdy w przypadku republikanów efekt był znacznie słabszy. W całej grupie badanych wzmacniane treści uzyskały wynik -0.150, natomiast posty z kont, które użytkownicy zdecydowali się obserwować, były na ogół zgodne z ich wartościami. Kontrast ten ma znaczenie praktyczne: „For You” to domyślna oś czasu na X, a użytkownicy muszą ręcznie przełączyć się na chronologiczny strumień „Following”, więc to treści wzmacniane przez algorytm platforma serwuje w pierwszej kolejności.

„Jednakże, poza tą zbieżnością między deklarowanymi wartościami a zasobem treści, obserwujemy ujemną korelację między wartościami uczestników a prawdopodobieństwem wzmocnienia treści” – powiedzieli badacze, dodając, że wynik ten sugeruje, iż „algorytm w rzeczywistości wzmacnia treści niespójne z wyraźnie deklarowanymi wartościami użytkowników”.

Replikacja badania dała podobny podział według przynależności partyjnej: -0.199 dla demokratów i 0.0372 dla republikanów.

Zgodnie z badaniem część tej różnicy mogą tłumaczyć odpowiedzi na posty. Badacze stwierdzili, że użytkownicy odpowiadający osobom publikującym treści sprzeczne z ich wartościami mogą nieświadomie sygnalizować X, że chcą więcej takich treści.

„Razem wzięte wyniki te dają wgląd w napięcia między wartościami, które ludzie wyznają, a tymi, które wywołują reakcje, oraz w to, jak napięcia wartości mogą prowadzić do nieprzystających rezultatów” – napisali badacze.

Badacze nie sprawdzali, czy konta stojące za postami wywołującymi odpowiedzi sprzeczne z wartościami użytkowników należały do ludzi, czy były zautomatyzowane, przez co kwestia roli botów pozostała bez odpowiedzi.

Sposób, w jaki algorytmy strumieni kształtują to, co widzą użytkownicy, przyciągnął także uwagę regulatorów w Europie. Unijny Digital Services Act wymaga od bardzo dużych platform, w tym X, oferowania co najmniej jednej opcji rekomendacji nieopartej na profilowaniu, a Komisja Europejska w grudniu 2023 roku wszczęła przeciwko X formalne postępowanie w sprawie podejrzewanych naruszeń, w tym sposobu postępowania z nielegalnymi treściami oraz niebieskich odznak weryfikacyjnych („blue check”).

Wyniki badań pojawiają się po tym, jak X w styczniu udostępnił na zasadach open source swój oparty na Grok algorytm „For You”, ujawniając system rekomendacji porządkujący posty poprzez przewidywanie działań użytkowników, w tym polubień i odpowiedzi. Było to drugie takie udostępnienie w historii platformy: X, wtedy jeszcze noszący nazwę Twitter, po raz pierwszy opublikował części swojego kodu rankingowego w marcu 2023 roku, kilka miesięcy po tym, jak Musk sfinalizował przejęcie firmy za około 44 mld dolarów. Ponieważ najnowszy kod jest publiczny, zewnętrzni badacze mogą teraz sprawdzić, jak ważone są sygnały takie jak odpowiedzi – ten sam mechanizm, który badanie PNAS łączy z rozbieżnością wartości. Elon Musk powiedział wtedy, że algorytm „wymaga ogromnych ulepszeń”.

„Wiemy, że algorytm jest głupi i wymaga ogromnych ulepszeń, ale przynajmniej możecie widzieć, jak w czasie rzeczywistym i z pełną przejrzystością usiłujemy go poprawiać” – napisał Musk na X po udostępnieniu kodu. „Nie robi tego żadna inna firma z branży mediów społecznościowych.”