Wer sich auf X mit anderen streitet, bringt der Plattform womöglich bei, noch mehr verhasste Beiträge anzuzeigen – das legt eine neue Studie nahe, der zufolge der Empfehlungsalgorithmus der Plattform Inhalte verstärkt, die nicht mit den von Nutzern angegebenen Werten übereinstimmen.

Die am Montag in den Proceedings of the National Academy of Sciences veröffentlichte Studie ergab, dass der „Für dich“-Algorithmus („For You“) von X Inhalte verstärkte, die den angegebenen Werten der Nutzer widersprachen – insbesondere bei Demokraten. Die Korrelation zwischen verstärkten Inhalten und angegebenen Werten lag bei Demokraten bei -0.229 und bei Republikanern bei -0.041, wobei negativere Werte auf eine stärkere Abweichung hindeuten.

„Algorithmen von Social-Media-Feeds ordnen Inhalte nach dem, was Nutzer angeblich bevorzugen, doch die Interaktionsverhalten, die diese Algorithmen antreiben, sind (im besten Fall) nur indirekte Indikatoren für die von Nutzern ausdrücklich selbst angegebenen Werte“, schrieben die Forscher. Das Ranking nach vorhergesagtem Engagement ist die Standardarchitektur auf großen Plattformen – auch TikTok, Instagram und YouTube bauen ihre Feeds um Modelle herum auf, die vorhersagen, mit welchen Inhalten Nutzer interagieren werden. Die von den Forschern identifizierte Lücke zwischen Engagement-Signalen und angegebenen Werten ist daher kein Sonderfall der X-Implementierung.

Laut dem Bericht untersuchten Forscher des MIT, der University of Michigan, der Johns Hopkins University, der Stanford University und der Yale University im September und Oktober 2024 insgesamt 715 aktive US-amerikanische X-Nutzer. Die Teilnehmer installierten eine Browser-Erweiterung, die ihre „Für dich“- und Following-Feeds erfasste.

Berichten zufolge zeigte X Demokraten mehr Inhalte, die ihren angegebenen Werten zuwiderliefen, während der Effekt bei Republikanern deutlich schwächer ausfiel. Über alle Nutzer hinweg erreichten verstärkte Inhalte einen Wert von -0.150, während Beiträge von Accounts, denen die Nutzer freiwillig folgen, im Allgemeinen mit ihren Werten übereinstimmten. Der Kontrast ist in der Praxis relevant: „Für dich“ ist die Standard-Timeline auf X, und Nutzer müssen manuell zum chronologischen Following-Feed wechseln – verstärkte Inhalte sind also das, was die Plattform zuerst anzeigt.

„Jedoch beobachten wir über diese Übereinstimmung zwischen selbst angegebenen Werten und dem Inhaltsbestand hinaus, dass die Werte der Teilnehmer negativ mit der Wahrscheinlichkeit korrelieren, dass Inhalte verstärkt werden“, sagten die Forscher und fügten hinzu, dass dieser Befund nahelegt, „dass der Algorithmus tatsächlich Inhalte verstärkt, die nicht mit den ausdrücklichen Werten der Nutzer übereinstimmen“.

Eine Replikation erbrachte eine ähnliche parteipolitische Aufspaltung: -0.199 bei Demokraten und 0.0372 bei Republikanern.

Antworten könnten einen Teil des Unterschieds erklären, heißt es in der Studie. Nutzer, die auf Personen antworten, deren Inhalte ihren Werten widersprechen, könnten X ungewollt signalisieren, dass sie mehr davon sehen möchten, so die Forscher.

„Zusammengenommen gewähren diese Befunde einen Einblick in die Spannungen zwischen den Werten, die Menschen vertreten, und jenen, die Reaktionen hervorrufen, sowie in die Frage, wie diese Wertespannungen fehlausgerichtete Ergebnisse hervorbringen können“, schrieben die Forscher.

Die Forscher untersuchten nicht, ob es sich bei den Accounts hinter Beiträgen, die wertwidrige Antworten auslösten, um Menschen oder automatisierte Konten handelte – die Rolle von Bots bleibt ungeklärt.

Auch in Europa zieht die Frage, wie Feed-Algorithmen bestimmen, was Nutzer sehen, aufsichtsbehördliche Aufmerksamkeit auf sich. Der Digital Services Act der EU verpflichtet sehr große Plattformen, darunter X, mindestens eine Empfehlungsoption anzubieten, die nicht auf Profilbildung basiert. Die Europäische Kommission leitete im Dezember 2023 ein förmliches Verfahren gegen X ein, unter anderem wegen des Verdachts auf Verstöße beim Umgang mit illegalen Inhalten und bei den Verifizierungskennzeichen mit „blauem Häkchen“.

Die Ergebnisse folgen auf die Open-Source-Veröffentlichung des Grok-basierten „Für dich“-Algorithmus von X im Januar. Sie legte ein Empfehlungssystem offen, das Beiträge rangiert, indem es Nutzeraktionen wie Likes und Antworten vorhersagt. Es war die zweite Veröffentlichung dieser Art: X, damals noch unter dem Namen Twitter, publizierte erstmals im März 2023 Teile seines Ranking-Codes, wenige Monate nachdem Musk die Übernahme des Unternehmens für rund 44 Milliarden US-Dollar abgeschlossen hatte. Da der aktuelle Code öffentlich zugänglich ist, können externe Forscher nun nachvollziehen, wie Signale wie Antworten gewichtet werden – derselbe Mechanismus, den die PNAS-Studie mit der Abweichung von Nutzerwerten in Verbindung bringt. Elon Musk sagte damals, der Algorithmus brauche „massive Verbesserungen“.

„Wir wissen, dass der Algorithmus dumm ist und massive Verbesserungen braucht, aber ihr könnt uns zumindest dabei zusehen, wie wir ihn in Echtzeit und mit Transparenz besser machen“, twitterte Musk nach der Veröffentlichung. „Kein anderes Social-Media-Unternehmen tut das.“