De Europese Commissie heeft TikTok ervan beschuldigd de regels van de EU voor online-inhoud te schenden, omdat het aanbevelingssysteem van het platform gebruikers zou opsluiten in 'rabbit holes' van vergelijkbare video's. Brussel stelt dat dit ontwerp de geestelijke gezondheid van kinderen en kwetsbare mensen kan schaden. Door de voorlopige bevindingen loopt TikTok het risico op boetes tot 6% van de wereldwijde jaaromzet van moederbedrijf ByteDance.

Waarom het algoritme in het vizier van Brussel staat

Dit is de eerste keer dat de Commissie heeft vastgesteld dat het aanbevelingssysteem van een platform zelf de Digital Services Act (DSA) schendt, de EU-wet die grote onlineplatforms verplicht schadelijke en illegale inhoud aan te pakken. Daarmee is dit onderzoek een toets of algoritmeontwerp — en niet alleen de inhoud die een platform host — op zichzelf in strijd met de wet kan zijn. TikTok valt onder de verhoogde verplichtingen van de DSA voor zeer grote onlineplatforms, een aanduiding die de EU toekent aan diensten met gemiddeld meer dan 45 miljoen maandelijkse gebruikers in de unie. Een Commissieambtenaar die anoniem sprak met POLITICO zei dat toezichthouders nu nauwkeuriger onderzoeken hoe engagementgedreven systemen gebruikers vasthouden.

De klacht richt zich op de 'For You'-feed van TikTok. Volgens de Commissie laat TikTok gebruikers hoe meer ze bepaalde video's bekijken of liken, des te meer vergelijkbare video's zien. De EU stelt dat een constante stroom aan video's over verdriet, eenzaamheid of lichaamsbeeld angst kan vergroten, het zelfbeeld kan schaden en eetstoornissen kan verergeren. Een ambtenaar vertelde POLITICO dat het onderzoek zich op de geestelijke gezondheid richtte omdat daar het bewijs het sterkst was.

De gewenste maatregelen van de EU — en waarom die van TikTok tekortschieten

TikTok heeft al aanpassingen doorgevoerd om het effect te verzachten, maar de EU acht deze maatregelen ontoereikend. Toezichthouders willen dat het bedrijf zijn aanbevelingen meer baseert op uitdrukkelijke voorkeuren van gebruikers dan op hun kijkgedrag.

De Commissie heeft ook zorgen geuit over de knop 'Geen interesse' van TikTok; volgens AFP is die mogelijk "niet voldoende om de contentfeed te veranderen". Toezichthouders willen dat TikTok stopt met het gebruiken van kijktijd voor het aanbevelen van video's, dat de instellingen gebruiksvriendelijker worden en dat het algoritme regelmatig wordt gecontroleerd.

Een ambtenaar wees erop dat de DSA platforms verplicht een feed aan te bieden die geen persoonlijke gegevens gebruikt voor het aanbevelen van content — een optie die slechts 0,2% van de TikTok-gebruikers kiest, waardoor vrijwel de hele gebruikersbasis de gedragsgestuurde feed gebruikt.

EU-techhoofd Henna Virkkunen stelde dat TikTok gebruikers elke keer dat ze scrollen of een video liken meer vergelijkbare content laat zien, waardoor de cyclus moeilijker te doorbreken is, volgens de Europese Commissie. Ze voegde eraan toe dat TikTok meer moet doen om gebruikers te beschermen, vooral kinderen.

TikTok's vijfde zaak en de bredere EU-aanpak

De Europese uitvoerende macht heeft TikTok — dat eigendom is van een Chinees bedrijf — nu voor de vijfde keer beschuldigd van het schenden van de regels, hoewel het platform nog geen boete heeft gekregen. In februari beschuldigden toezichthouders de app van 'verslavend ontwerp' en van te weinig bescherming van kinderen; TikTok noemde die beschuldigingen 'categorisch onjuist'. In juli bracht de EU opnieuw een aanklacht in, met de stelling dat het platform kinderen blootstelde aan cyberpesten en roofd False gedrag.

Voordat er sancties worden opgelegd, kan TikTok het bewijsmateriaal inzien en oplossingen voorstellen. Het zou niet de eerste keer zijn dat het bedrijf een zaak oplost: eerder kwam TikTok al tot een regeling in een DSA-zaak over advertentietransparantie door wijzigingen toe te zeggen.

TikTok is niet het enige platform onder druk. De Commissie onderzoekt ook vergelijkbare kwesties bij Meta's Facebook en Instagram, en beval Meta in juli aan om 'verslavend ontwerp' terug te dringen. Hoe Meta die opdracht uitvoert, en of TikTok's reactie de Commissie tevreden stelt, zijn de volgende ontwikkelingen om in de gaten te houden in de bredere controle van de EU op aanbevelingssystemen.

De aandacht weerspiegelt juridische strijd in andere rechtsgebieden. In september betaalde TikTok de Amerikaanse staat Alabama minstens $100 miljoen om een rechtszaak af te wenden en stemde in met tijdslimieten voor tienergebruikers.