Споры с людьми на X могут приучать платформу показывать вам больше ненавистных публикаций — к такому выводу пришло новое исследование, установившее, что рекомендательный алгоритм платформы усиливает контент, не соответствующий заявленным ценностям пользователей.

Исследование, опубликованное в понедельник в Proceedings of the National Academy of Sciences, показало, что алгоритм «Для вас» в X усиливал контент, противоречащий заявленным ценностям пользователей, особенно среди демократов. Корреляция между усиливаемым контентом и заявленными ценностями составила -0,229 для демократов против -0,041 для республиканцев, при этом более отрицательные значения указывают на большее несоответствие.

«Алгоритмы лент социальных сетей ранжируют контент, который предположительно предпочитают пользователи, однако модели поведения, обусловливающие вовлечённость и управляющие этими алгоритмами, являются (в лучшем случае) косвенными индикаторами явно заявленных пользователями ценностей», — написали исследователи. Ранжирование по прогнозируемой вовлечённости — стандартная архитектура на всех крупных платформах: TikTok, Instagram и YouTube точно так же строят свои ленты на моделях, предсказывающих, с каким контентом будут взаимодействовать пользователи, — поэтому разрыв между сигналами вовлечённости и заявленными ценностями, выявленный исследователями, не является уникальной особенностью реализации X.

Согласно отчёту, исследователи из MIT, Мичиганского университета, Университета Джонса Хопкинса, Стэнфорда и Йеля изучили 715 активных американских пользователей X в сентябре и октябре 2024 года. Участники установили браузерное расширение, которое собирало их ленты «Для вас» и «Подписки».

Как сообщается, X показывал демократам больше контента, противоречащего их заявленным ценностям, тогда как у республиканцев этот эффект был значительно слабее. По всем пользователям в совокупности показатель усиливаемого контента составил -0,150, при этом публикации аккаунтов, на которые пользователи подписались по собственному выбору, в целом соответствовали их ценностям. Это различие важно на практике: «Для вас» — лента по умолчанию в X, и пользователю нужно вручную переключаться на хронологическую ленту «Подписки», поэтому именно усиливаемый алгоритмом контент платформа показывает в первую очередь.

«Однако за пределами этого соответствия между самостоятельно заявленными ценностями и имеющимся контентом мы наблюдаем отрицательную корреляцию между ценностями участников и вероятностью усиления контента», — заявили исследователи, добавив, что этот вывод свидетельствует: «алгоритм фактически усиливает контент, не соответствующий явным ценностям пользователей».

Повторное исследование дало схожее партийное разделение: -0,199 для демократов и 0,0372 для республиканцев.

Согласно исследованию, часть этого различия могут объяснять ответы. Исследователи отметили, что пользователи, отвечающие тем, кто публикует контент, противоречащий их ценностям, могут невольно подавать X сигнал о том, что хотят видеть больше такого контента.

«В совокупности эти выводы дают представление о напряжённости между ценностями, которых придерживаются люди, и теми, что провоцируют реакции, а также о том, как такая ценностная напряжённость может приводить к несоответствующим ожиданиям результатам», — написали исследователи.

Исследователи не выясняли, управлялись ли аккаунты, публиковавшие контент, вызвавший несовместимые с ценностями ответы, людьми или автоматизированными системами, поэтому вопрос о роли ботов остался открытым.

То, как алгоритмы лент формируют видимую пользователям картину, также привлекло внимание европейских регуляторов. Закон о цифровых услугах ЕС обязывает очень крупные платформы, включая X, предлагать как минимум один вариант системы рекомендаций, не основанный на профилировании, а в декабре 2023 года Европейская комиссия открыла формальное разбирательство против X по подозрению в ряде нарушений, включая обращение с незаконным контентом и метки верификации «синяя галочка».

Эти выводы последовали за тем, как X в январе открыл исходный код своего алгоритма «Для вас» на базе Grok, раскрыв рекомендательную систему, которая ранжирует публикации, прогнозируя действия пользователей, включая лайки и ответы. Это был второй подобный релиз платформы: X, тогда ещё носивший название Twitter, впервые опубликовал части своего кода ранжирования в марте 2023 года — через несколько месяцев после того, как Маск завершил приобретение компании примерно за 44 млрд долларов. Поскольку последний код открыт, сторонние исследователи теперь могут изучить, как взвешиваются такие сигналы, как ответы, — тот же механизм, который исследование в PNAS связывает с несоответствием ценностям. Илон Маск тогда заявил, что алгоритму «требуются серьёзные улучшения».

«Мы знаем, что алгоритм глуп и нуждается в серьёзных улучшениях, но, по крайней мере, вы можете видеть, как мы в реальном времени и прозрачно пытаемся сделать его лучше», — написал Маск после релиза. «Ни одна другая компания в сфере социальных сетей этого не делает».