La Commissione Europea ha accusato TikTok di violare le regole dell'Unione sui contenuti online, sostenendo che il suo sistema di raccomandazione intrappola gli utenti in "rabbit hole" di video simili. Bruxelles afferma che questa struttura può danneggiare la salute mentale di bambini e persone vulnerabili. Le risultanze preliminari espongono TikTok a multe fino al 6% del fatturato globale annuo della società madre ByteDance.

Perché l'algoritmo è nel mirino di Bruxelles

È la prima volta che la Commissione rileva che il sistema di raccomandazione di una piattaforma violi di per sé il Digital Services Act (DSA), la legge UE che richiede alle grandi piattaforme online di contrastare i contenuti dannosi e illegali. Ciò rende l'indagine un test per verificare se la progettazione algoritmica — e non solo i contenuti ospitati da una piattaforma — possa violare la legge in sé. TikTok è soggetta agli obblighi rafforzati del DSA per le piattaforme online molto grandi, una designazione che l'UE applica ai servizi con una media di oltre 45 milioni di utenti mensili nell'Unione. Un funzionario della Commissione che ha parlato a POLITICO in condizione di anonimato ha detto che i regolatori stanno ora esaminando più da vicino come questi sistemi orientati al coinvolgimento tengono gli utenti agganciati.

Il reclamo si concentra sul feed "Per te" di TikTok. Secondo la Commissione, più gli utenti guardano o mettono mi piace a determinati video, più TikTok propone loro video simili. L'UE sostiene che un flusso continuo di contenuti sulla tristezza, la solitudine o l'immagine corporea può aumentare l'ansia, danneggiare l'autostima e peggiorare i disturbi alimentari. Un funzionario ha riferito a POLITICO che l'indagine si è concentrata sulla salute mentale perché era l'ambito in cui le prove erano più solide.

Le correzioni preferite dall'UE — e perché quelle di TikTok non bastano

TikTok ha già apportato modifiche destinate ad attenuare l'effetto, ma l'UE le ha ritenute inefficaci. I regolatori vogliono che l'azienda basi le raccomandazioni più sulle preferenze dichiarate degli utenti che sul loro comportamento di visualizzazione.

La Commissione ha anche sollevato preoccupazioni sul pulsante "Non sono interessato" di TikTok, affermando che "potrebbe non essere sufficiente per modificare il feed dei contenuti", secondo AFP. I regolatori vogliono che TikTok smetta di usare il tempo di visione per suggerire video, renda le impostazioni più facili da usare e controlli regolarmente il suo algoritmo.

Un funzionario ha rilevato che il DSA richiede alle piattaforme di offrire un feed che non utilizzi dati personali per raccomandare contenuti — un'opzione scelta solo dallo 0,2% degli utenti di TikTok, lasciando quasi l'intera base utenti sul feed basato sul comportamento.

Il responsabile UE per la tecnologia Henna Virkkunen ha affermato che ogni volta che gli utenti scorrono o mettono mi piace a un video, TikTok mostra loro più contenuti simili, rendendo il ciclo più difficile da interrompere, secondo la Commissione Europea. Ha aggiunto che TikTok deve fare di più per proteggere gli utenti, in particolare i bambini.

Il quinto caso di TikTok e la più ampia offensiva UE

L'esecutivo UE ha ora accusato TikTok — di proprietà di un'azienda cinese — di violare le sue regole per la quinta volta, anche se non ha ancora inflitto multe alla piattaforma. A febbraio, i regolatori hanno sostenuto che l'app si basava su funzionalità di "design altamente addictivo" e non faceva abbastanza per proteggere i bambini; TikTok ha definito queste accuse "completamente false". A luglio, l'UE ha mosso un'altra accuse, affermando che la piattaforma esponeva i bambini a cyberbullismo e comportamenti predatori.

Prima che vengano irrogate eventuali sanzioni, TikTok può esaminare le prove e suggerire modi per risolvere i problemi. Non sarebbe la prima volta che l'azienda risolve una questione: TikTok ha precedentemente risolto un caso DSA sulla trasparenza pubblicitaria accettando di apportare modifiche.

TikTok non è l'unica piattaforma sotto pressione. La Commissione sta esaminando anche questioni simili su Facebook e Instagram di Meta, e a luglio ha ordinato a Meta di ridurre il "design addictivo". Come Meta attuerà quell'ordine, e se la risposta di TikTok soddisferà la Commissione, sono i prossimi sviluppi da seguire nella più ampia scrutinio UE sui sistemi di raccomandazione.

L'attenzione rispecchia battaglie legali in altre giurisdizioni. A settembre, TikTok ha pagato allo stato americano dell'Alabama almeno 100 milioni di dollari per evitare un processo e ha accettato di stabilire limiti di tempo per gli utenti adolescenti.