La Commission européenne a accusé TikTok d'enfreindre les règles de l'UE en matière de contenu en ligne, alléguant que son système de recommandation enferme les utilisateurs dans des « trous noirs » de vidéos similaires. Bruxelles estime que cette conception peut nuire à la santé mentale des enfants et des personnes vulnérables. Les conclusions préliminaires exposent TikTok à des amendes pouvant atteindre 6 % du chiffre d'affaires annuel mondial de sa société mère ByteDance.

Pourquoi l'algorithme est dans le viseur de Bruxelles

C'est la première fois que la Commission constate que le système de recommandation d'une plateforme enfreint lui-même le Digital Services Act (DSA), la législation européenne qui impose aux grandes plateformes en ligne de traiter les contenus nuisibles et illégaux. L'enquête devient ainsi un test pour savoir si la conception d'un algorithme — et non seulement le contenu hébergé par une plateforme — peut en soi constituer une violation de la loi. TikTok est soumis aux obligations renforcées du DSA applicables aux plateformes en ligne de très grande taille, une désignation que l'UE attribue aux services dépassant en moyenne 45 millions d'utilisateurs mensuels dans l'Union. Un fonctionnaire de la Commission, s'étant exprimé auprès de POLITICO sous couvert d'anonymat, a indiqué que les régulateurs examinaient désormais de plus près la manière dont ces systèmes axés sur l'engagement maintiennent les utilisateurs captifs.

La plainte porte sur le fil « Pour toi » de TikTok. Selon la Commission, plus les utilisateurs regardent ou aiment certaines vidéos, plus TikTok leur en propose de similaires. L'UE soutient qu'un flux continu de vidéos sur la tristesse, la solitude ou l'image corporelle peut accroître l'anxiété, nuire à l'estime de soi et aggraver les troubles alimentaires. Un fonctionnaire a déclaré à POLITICO que l'enquête s'était concentrée sur la santé mentale parce que les preuves y étaient les plus solides.

Les correctifs privilégiés par l'UE — et pourquoi ceux de TikTok sont jugés insuffisants

TikTok a déjà apporté des modifications destinées à atténuer cet effet, mais l'UE les juge inefficaces. Les régulateurs veulent que l'entreprise fonde davantage ses recommandations sur les préférences déclarées des utilisateurs que sur leur comportement de visionnage.

La Commission a également exprimé des réserves sur le bouton « Je ne suis pas intéressé » de TikTok, estimant qu'il « pourrait ne pas suffire à modifier le fil de contenu », selon AFP. Les régulateurs veulent que TikTok cesse d'utiliser le temps de visionnage pour suggérer des vidéos, simplifie ses paramètres et vérifie régulièrement son algorithme.

Un fonctionnaire a souligné que le DSA impose aux plateformes de proposer un fil ne recourant pas aux données personnelles pour recommander des contenus — une option choisie par seulement 0,2 % des utilisateurs de TikTok, ce qui laisse la quasi-totalité de la base d'utilisateurs sur le fil axé sur le comportement.

La cheffe de file de l'UE pour les questions numériques, Henna Virkkunen, a affirmé que chaque fois que les utilisateurs font défiler ou aiment une vidéo, TikTok leur en montre davantage de similaires, rendant le cycle plus difficile à briser, selon la Commission européenne. Elle a ajouté que TikTok devait en faire plus pour protéger ses utilisateurs, en particulier les enfants.

Le cinquième dossier de TikTok et la riposte européenne élargie

L'exécutif européen a désormais accusé TikTok — qui appartient à une entreprise chinoise — d'avoir enfreint ses règles pour la cinquième fois, sans avoir encore infligé d'amende à la plateforme. En février, les régulateurs avaient allégué que l'application reposait sur des fonctionnalités de « conception addictive » et ne protégeait pas suffisamment les enfants ; TikTok avait qualifié ces affirmations de « totalement infondées ». En juillet, l'UE a formulé une nouvelle accusation, affirmant que la plateforme exposait les enfants au cyberharcèlement et à des comportements prédateurs.

Avant toute sanction, TikTok peut examiner les preuves et proposer des solutions aux problèmes identifiés. Ce ne serait pas une première pour l'entreprise : TikTok avait précédemment réglé un dossier DSA relatif à la transparence publicitaire en acceptant d'apporter des changements.

TikTok n'est pas la seule plateforme sous pression. La Commission examine également des questions similaires sur Facebook et Instagram de Meta, et a ordonné en juillet à Meta de réduire la « conception addictive ». La mise en œuvre de cette décision par Meta, et la réponse de TikTok satisfaisant ou non la Commission, constituent les prochains développements à surveiller dans la surveillance élargie par l'UE des systèmes de recommandation.

Cette attention reflète des batailles judiciaires dans d'autres juridictions. En septembre, TikTok a versé au moins 100 millions de dollars à l'État américain de l'Alabama pour éviter un procès et a accepté de fixer des limites de temps pour les utilisateurs adolescents.