Europejska Komisja oskarżyła TikToka o naruszenie unijnych zasad dotyczących treści online, twierdząc, że jego system rekomendacji zamyka użytkowników w „rabbit holes” podobnych filmów. Bruksela uważa, że taki projekt może szkodzić zdrowiu psychicznemu dzieci i osób wrażliwych. Wstępne ustalenia oznaczają, że TikTokowi grożą kary do 6% globalnego rocznego obrotu spółki maczystej ByteDance.

Dlaczego algorytm znalazł się w krzywu Brukseli

To pierwszy przypadek, gdy Komisja uznała, że sam system rekomendacji platformy narusza akt o usługach cyfrowych (DSA) — unijne prawo wymagające od dużych platform internetowych zwalczania treści szkodliwych i nielegalnych. Tym samym postępowanie jest testem, czy projekt algorytmu — a nie tylko treści udostępniane przez platformę — może samodzielnie naruszać prawo. TikTok podlega wzmocnionym obowiązkom DSA dla bardzo dużych platform internetowych, czyli kategorii obejmującej usługi liczące w UE średnio ponad 45 milionów użytkowników miesięcznie. Urzędnik Komisji, który mówił anonimowo POLITICO, powiedział, że regulatorzy przyglądają się teraz bliżej temu, jak systemy napędzane zaangażowaniem uzależniają użytkowników.

Skarga koncentruje się na feedzie „Dla Ciebie” TikToka. Według Komisji im więcej użytkownicy oglądają lub polubią określonych filmów, tym więcej podobnych treści pokazuje im TikTok. UE argumentuje, że nieustanny strumień materiałów o smutku, samotności czy wizerunku ciała może nasilać lęk, obniżać samoocenę i pogłębiać zaburzenia odżywiania. Jeden z urzędników powiedział POLITICO, że śledztwo skupiło się na zdrowiu psychicznym, bo tam dowody były najsilniejsze.

Preferowane poprawki UE — i dlaczego zmiany TikToka nie wystarczają

TikTok wprowadził już zmiany mające złagodzić ten efekt, ale UE uznała je za nieskuteczne. Regulatorzy chcą, aby firma opierała rekomendacje w większym stopniu na zadeklarowanych preferencjach użytkowników, a nie na ich zachowaniach podczas oglądania.

Komisja wyraziła także obawy dotyczące przycisku „Nie jestem zainteresowany” w TikToku, stwierdzając, że „może nie wystarczyć do zmiany feedu treści”, według AFP. Regulatorzy chcą, aby TikTok przestał wykorzystywać czas oglądania do sugerowania filmów, ułatwił obsługę ustawień i regularnie sprawdzał swój algorytm.

Jeden z urzędników zauważył, że DSA wymaga od platform oferowania feedu, który nie wykorzystuje danych osobowych do rekomendacji — z tej opcji korzysta jedynie 0,2% użytkowników TikToka, co oznacza, że niemal cała baza użytkowników pozostaje na feedzie opartym na zachowaniach.

Szefowa UE ds. technologii Henna Virkkunen stwierdziła, że za każdym razem, gdy użytkownik przewija lub polubi film, TikTok pokazuje mu więcej podobnych treści, co utrudnia przerwanie cyklu — według Europejskiej Komisji. Dodała, że TikTok musi zrobić więcej, aby chronić użytkowników, w szczególności dzieci.

Piąta sprawa TikToka i szersza ofensywa UE

Komisja Europejska oskarżyła już TikToka — należącego do chińskiej spółki — po raz piąty o łamanie jej zasad, choć platforma nie została jeszcze ukarana grzywną. W lutym regulatorzy zarzucili aplikacji stosowanie funkcji „projektowania uzależniającego” i niewystarczającą ochronę dzieci; TikTok nazwał te zarzuty „całkowicie fałszywymi”. W lipcu UE wniosła kolejny zarzut, twierdząc, że platforma naraża dzieci na cyberprzemoc i zachowania drapieżne.

Zanim zostaną nałożone jakiekolwiek kary, TikTok może zapoznać się z dowodami i zaproponować sposoby rozwiązania problemów. Nie byłoby to pierwsze takie rozstrzygnięcie: wcześniej firma zakończyła ugodą sprawę DSA dotyczącą przejrzystości reklam, zgadzając się na wprowadzenie zmian.

TikTok nie jest jedyną platformą pod presją. Komisja bada podobne kwestie także na Facebooku i Instagramie należących do Meta, a w lipcu nakazała Meta ograniczenie „projektowania uzależniającego”. Sposób, w jaki Meta wdroży to nakaz, oraz to, czy odpowiedź TikToka usatysfakcjonuje Komisję, będą kolejnymi wydarzeniami wartymi obserwacji w szerszej kontroli systemów rekomendacji prowadzonej przez UE.

Ta wzmożona uwaga ma swoje odbicie w procesach sądowych w innych krajach. We wrześniu TikTok zapłacił amerykańskiemu stanowi Alabama co najmniej 100 milionów dolarów, aby uniknąć procesu sądowego, i zobowiązał się do wprowadzenia limitów czasu dla nastoletnich użytkowników.