Die Europäische Kommission hat TikTok beschuldigt, gegen die Online-Content-Regeln der EU zu verstoßen, da das Empfehlungssystem Nutzer in „Rabbit Holes“ ähnlicherVideos fange. Nach Angaben der Kommission kann dieses Design die psychische Gesundheit von Kindern und schutzbedürftigen Menschen schädigen. Die vorläufigen Feststellungen setzen TikTok Bußgeldern von bis zu 6 % des weltweiten Jahresumsatzes des Mutterkonzerns ByteDance aus.

Warum der Algorithmus ins Visier von Brüssel geraten ist

Der Fall ist das erste Mal, dass die Kommission feststellt, dass das Empfehlungssystem einer Plattform selbst gegen den Digital Services Act (DSA) verstößt, das EU-Gesetz, das große Online-Plattformen verpflichtet, schädliche und illegale Inhalte zu bekämpfen. Damit ist die Untersuchung ein Test dafür, ob Algorithmus-Design – nicht nur die Inhalte, die eine Plattform hostet – eigenständig gegen das Gesetz verstoßen kann. TikTok unterliegt den erweiterten DSA-Pflichten für sehr große Online-Plattformen, eine Einstufung, die die EU für Dienste mit durchschnittlich mehr als 45 Millionen monatlichen Nutzern in der Union vergibt. Ein Kommissionsbeamter, der unter dem Schutz der Anonymität gegenüber POLITICO sprach, sagte, die Regulierungsbehörden würden nun genauer prüfen, wie interaktionsgetriebene Systeme Nutzer fesseln.

Die Beschwerde konzentriert sich auf TikToks „Für dich“-Feed. Nach Angaben der Kommission zeigt die Plattform Nutzern, je mehr sie bestimmte Videos ansehen oder mit „Gefällt mir“ markieren, umso mehr ähnliche Videos an. Die EU argumentiert, dass ein ständiger Strom von Inhalten über Traurigkeit, Einsamkeit oder Körperbild Ängste verstärken, das Selbstwertgefühl beeinträchtigen und Essstörungen verschlimmern kann. Ein Beamter sagte gegenüber POLITICO, die Untersuchung habe sich auf die psychische Gesundheit konzentriert, weil die Beweislage dort am stärksten war.

Die bevorzugten Lösungen der EU – und warum TikToks Maßnahmen nicht ausreichen

TikTok hat bereits Änderungen vorgenommen, die die Wirkung abschwächen sollten, doch die EU hält diese Maßnahmen für unwirksam. Die Regulierungsbehörden fordern das Unternehmen auf, seine Empfehlungen stärker an den ausdrücklichen Präferenzen der Nutzer als an deren Nutzungsverhalten auszurichten.

Die Kommission äußerte zudem Bedenken hinsichtlich TikToks Schaltfläche „Nicht interessiert“ und erklärte laut AFP, sie sei „möglicherweise nicht ausreichend, um den Inhaltsfeed zu ändern“. Die Regulierungsbehörden wollen, dass TikTok die Sehdauer nicht mehr zur Videoempfehlung verwendet, seine Einstellungen nutzerfreundlicher gestaltet und seinen Algorithmus regelmäßig überprüft.

Ein Beamter wies darauf hin, dass der DSA verlangt, dass Plattformen einen Feed anbieten, der keine persönlichen Daten zur Empfehlung von Inhalten verwendet – eine Option, die nur 0,2 % der TikTok-Nutzer wählen, wodurch fast die gesamte Nutzerschaft beim verhaltensbasierten Feed bleibt.

EU-Technologiereferentin Henna Virkkunen erklärte, dass TikTok den Nutzern bei jedem Scrollen oder Liken eines Videos weitere ähnliche Inhalte zeige, was den Kreislauf schwerer zu durchbrechen mache, so die Europäische Kommission. Sie fügte hinzu, dass TikTok mehr zum Schutz seiner Nutzer tun müsse, insbesondere von Kindern.

TikToks fünfter Fall und die breitere EU-Offensive

Das Exekutivorgan der EU hat TikTok – das einem chinesischen Unternehmen gehört – nun zum fünften Mal beschuldigt, gegen seine Regeln zu verstoßen, hat die Plattform jedoch noch nicht mit einem Bußgeld belegt. Im Februar warfen die Regulierungsbehörden der App vor, auf „suchterzeugendes Design“ zu setzen und nicht genug zum Schutz von Kindern zu tun; TikTok bezeichnete diese Vorwürfe als „kategorisch falsch“. Im Juli erhob die EU eine weitere Anklage und erklärte, die Plattform setze Kinder Cybermobbing und räuberischem Verhalten aus.

Bevor Strafen verhängt werden, kann TikTok die Beweise einsehen und Lösungen zur Behebung der Probleme vorschlagen. Es wäre nicht das erste Mal, dass das Unternehmen eine Angelegenheit beilegt: Zuvor hatte TikTok einen DSA-Fall zur Werbetransparenz durch zugesagte Änderungen beigelegt.

Nicht nur TikTok steht unter diesem Druck. Die Kommission prüft ähnliche Probleme auch bei Metas Facebook und Instagram und ordnete im Juli an, dass Meta „suchterzeugendes Design“ reduzieren soll. Wie Meta diese Anordnung umsetzt und ob TikToks Reaktion die Kommission zufriedenstellt, sind die nächsten Entwicklungen, auf die man im Rahmen der breiteren EU-Prüfung von Empfehlungssystemen achten sollte.

Die Aufmerksamkeit spiegelt auch rechtliche Auseinandersetzungen in anderen Ländern wider. Im September zahlte TikTok dem US-Bundesstaat Alabama mindestens 100 Millionen US-Dollar, um einen Prozess abzuwenden, und stimmte zu, Zeitlimits für jugendliche Nutzer festzulegen.