Discutir con otras personas en X podría estar enseñándole a la plataforma a mostrarle más publicaciones que odia, según un nuevo estudio que halló que el algoritmo de recomendación de la plataforma amplifica contenido desalineado con los valores declarados de los usuarios.

Una investigación publicada el lunes en Proceedings of the National Academy of Sciences halló que el algoritmo "For You" de X amplificó contenido que chocaba con los valores declarados de los usuarios, en particular entre los demócratas. La correlación entre el contenido amplificado y los valores declarados fue de -0.229 para los demócratas, frente a -0.041 para los republicanos, donde las cifras más negativas indican un mayor desalineamiento.

"Los algoritmos de feeds de redes sociales clasifican contenido que se supone preferido por los usuarios, pero los comportamientos de interacción que impulsan estos algoritmos son (en el mejor de los casos) indicadores indirectos de los valores explícitamente declarados por los propios usuarios", escribieron los investigadores. Clasificar según la interacción prevista es la arquitectura estándar en las principales plataformas — TikTok, Instagram y YouTube construyen de forma similar sus feeds en torno a modelos que predicen con qué contenido interactuarán los usuarios —, por lo que la brecha que los investigadores identifican entre las señales de interacción y los valores declarados no es exclusiva de la implementación de X.

Según el informe, investigadores del MIT, la Universidad de Michigan, Johns Hopkins, Stanford y Yale estudiaron a 715 usuarios estadounidenses activos de X en septiembre y octubre de 2024. Los participantes instalaron una extensión de navegador que recopiló sus feeds "For You" y "Following".

Según los informes, X mostró a los demócratas más contenido contrario a sus valores declarados, mientras que el efecto fue mucho más débil entre los republicanos. Considerando a todos los usuarios, el contenido amplificado obtuvo una puntuación de -0.150, mientras que las publicaciones de las cuentas que eligieron seguir solían estar alineadas con sus valores. El contraste importa en la práctica: "For You" es la línea de tiempo predeterminada en X y los usuarios deben cambiar manualmente al feed cronológico "Following", de modo que el contenido amplificado es lo primero que la plataforma muestra.

"Sin embargo, más allá de esta alineación entre los valores declarados y el inventario, observamos que los valores de los participantes se correlacionan negativamente con la probabilidad de amplificación del contenido", señalaron los investigadores, añadiendo que el hallazgo sugiere que "el algoritmo en realidad está amplificando contenido que está desalineado con los valores explícitos de los usuarios".

Una replicación produjo una división partidista similar: -0.199 para los demócratas y 0.0372 para los republicanos.

Las respuestas podrían explicar parte de la diferencia, según el estudio. Los investigadores señalaron que los usuarios que responden a personas que publican contenido que choca con sus valores podrían señalar inadvertidamente a X que desean más de ese contenido.

"En conjunto, estos hallazgos ofrecen un vistazo a las tensiones entre los valores que las personas sostienen y aquellos que provocan reacciones, y cómo estas tensiones de valores pueden producir resultados desalineados", escribieron los investigadores.

Los investigadores no examinaron si las cuentas detrás de las publicaciones que provocaron respuestas desalineadas con los valores eran humanas o automatizadas, lo que deja sin respuesta el papel de los bots.

El modo en que los algoritmos de feeds moldean lo que ven los usuarios también ha atraído el escrutinio regulatorio en Europa. La Ley de Servicios Digitales de la UE exige que las plataformas muy grandes, incluida X, ofrezcan al menos una opción de recomendación que no se base en la elaboración de perfiles, y la Comisión Europea abrió un procedimiento formal contra X en diciembre de 2023 por presuntas infracciones, incluido su manejo del contenido ilegal y sus etiquetas de verificación de "check azul".

Los hallazgos llegan después de que X abriera el código de su algoritmo "For You" impulsado por Grok en enero, lo que reveló un sistema de recomendación que clasifica las publicaciones prediciendo las acciones de los usuarios, incluidos los "me gusta" y las respuestas. Fue el segundo lanzamiento de este tipo de la plataforma: X, que entonces todavía se llamaba Twitter, publicó por primera vez partes de su código de clasificación en marzo de 2023, meses después de que Musk completara su adquisición de la empresa por unos 44.000 millones de dólares. Debido a que el código más reciente es público, los investigadores externos ahora pueden examinar cómo se ponderan señales como las respuestas, el mismo mecanismo que el estudio de PNAS vincula con el desalineamiento de valores. Elon Musk dijo en ese momento que el algoritmo "necesita mejoras enormes".

"Sabemos que el algoritmo es tonto y necesita mejoras enormes, pero al menos pueden vernos esforzarnos por mejorarlo en tiempo real y con transparencia", tuiteó Musk tras el lanzamiento. "Ninguna otra empresa de redes sociales hace esto".