Wie op X met mensen in discussie gaat, leert het platform daar mogelijk mee om je meer berichten te tonen die je verafschuwt. Dat blijkt uit nieuw onderzoek dat vaststelde dat het aanbevelingsalgoritme van het platform content versterkt die niet aansluit bij de waarden die gebruikers zelf hebben aangegeven.

Onderzoek dat maandag in de Proceedings of the National Academy of Sciences is gepubliceerd wees uit dat het “For You”-algoritme van X content versterkte die botste met de door gebruikers aangegeven waarden, in het bijzonder bij Democraten. De correlatie tussen versterkte content en aangegeven waarden was -0,229 voor Democraten, tegen -0,041 voor Republikeinen, waarbij een negatiever getal op een grotere afwijking duidt.

“Algoritmen van sociale-mediafeeds rangschikken content waarvan wordt beweerd dat gebruikers die verkiezen, maar het interactiegedrag dat deze algoritmen aanstuurt, vormt (op zijn best) een indirecte maatstaaf voor de waarden die gebruikers expliciet zelf hebben aangegeven”, schreven de onderzoekers. Rangschikken op voorspelde interactie is de standaardarchitectuur op grote platforms — ook TikTok, Instagram en YouTube bouwen hun feeds rond modellen die voorspellen met welke content gebruikers zullen interageren — zodat de kloof die de onderzoekers signaleren tussen interactiesignalen en aangegeven waarden niet uniek is voor de implementatie van X.

Volgens het rapport bestudeerden onderzoekers van MIT, de University of Michigan, Johns Hopkins, Stanford en Yale in september en oktober 2024 715 actieve Amerikaanse X-gebruikers. De deelnemers installeerden een browserextensie die hun “For You”- en Following-feeds verzamelde.

X liet Democraten naar verluidt meer content zien die indruiste tegen hun aangegeven waarden, terwijl het effect bij Republikeinen veel zwakker was. Over alle gebruikers genomen scoorde versterkte content -0,150, terwijl berichten van accounts die de deelnemers zelf volgden over het algemeen aansloten bij hun waarden. Dat contrast is in de praktijk relevant: “For You” is de standaardtijdlijn op X en gebruikers moeten handmatig overschakelen naar de chronologische Following-feed, zodat de uitvergrote content is wat het platform als eerste voorzet.

“Maar voorbij deze overeenstemming tussen zelf aangegeven waarden en het aanbod zien we dat de waarden van deelnemers negatief gecorreleerd zijn met de kans dat content wordt uitvergroot”, zeiden de onderzoekers, eraan toevoegend dat deze bevinding suggereert dat “het algoritme in feite content versterkt die niet aansluit bij de expliciete waarden van gebruikers”.

Een replicatie van het onderzoek liet een vergelijkbare splitsing langs partijlijnen zien: -0,199 voor Democraten en 0,0372 voor Republikeinen.

Reacties kunnen volgens het onderzoek een deel van het verschil verklaren. Onderzoekers zeiden dat gebruikers die reageren op mensen die content posten die bots met hun waarden, X onbedoeld het signaal kunnen geven dat ze daar meer van willen zien.

“Samen genomen bieden deze bevindingen een blik in de spanningen tussen de waarden die mensen erop nahouden en de waarden die reacties uitlokken, en hoe deze waarde-tegenstellingen kunnen leiden tot uitkomsten die daar niet mee in lijn zijn”, schreven de onderzoekers.

De onderzoekers hebben niet onderzocht of de accounts achter de berichten die met de waarden botsende reacties uitlokten menselijk of geautomatiseerd waren, waardoor de rol van bots onbeantwoord blijft.

Ook de vraag hoe feed-algoritmen bepalen wat gebruikers te zien krijgen, heeft in Europa toezicht van regelgevers getrokken. De Digital Services Act van de EU verplicht zeer grote platforms, waaronder X, minstens één aanbevelingsoptie aan te bieden die niet op profilering is gebaseerd, en de Europese Commissie opende in december 2023 een formele procedure tegen X wegens vermoedelijke schendingen, waaronder de omgang met illegale content en de verificatielabels met “blauwe vinkjes”.

De bevindingen volgen nadat X in januari het door Grok aangedreven “For You”-algoritme open source maakte, waarbij een aanbevelingssysteem aan het licht kwam dat berichten rangschikt door gebruikersacties te voorspellen, zoals likes en reacties. Het was de tweede release van deze soort op het platform: X, destijds nog Twitter geheten, publiceerde in maart 2023 voor het eerst delen van zijn rankingcode, enkele maanden nadat Musk de overname van het bedrijf voor ruwweg 44 miljard dollar afrondde. Omdat de nieuwste code publiek toegankelijk is, kunnen externe onderzoekers nu bekijken hoe signalen zoals reacties worden gewogen — hetzelfde mechanisme dat het PNAS-onderzoek in verband brengt met afwijkende waarden. Elon Musk zei destijds dat het algoritme “massieve verbeteringen nodig heeft”.

“We weten dat het algoritme dom is en massieve verbeteringen nodig heeft, maar je kunt ons er tenminste in realtime en met transparantie mee zien worstelen om het beter te maken”, tweette Musk na de release. “Geen enkel ander bedrijf in sociale media doet dit.”