X上で他者と論争することは、嫌悪する投稿をさらに多く表示するようプラットフォームに教え込んでいる可能性がある。利用者が表明した価値観と整合しないコンテンツをプラットフォームのレコメンドアルゴリズムが増幅していることを、新たな研究が明らかにした。

米国科学アカデミー紀要で月曜日に発表された研究によると、Xの「For You」アルゴリズムは、利用者が表明した価値観と相反するコンテンツを増幅しており、特に民主党支持者の間で顕著だった。増幅されたコンテンツと表明された価値観の相関係数は民主党支持者で-0.229、共和党支持者で-0.041であり、数値がより負に大きいほど不一致が大きいことを示す。

「ソーシャルメディアのフィードアルゴリズムは、利用者にとって好ましいとされるコンテンツをランキングするが、これらのアルゴリズムを駆動するエンゲージメント行動は、利用者が明示的に自己申告した価値観の(良くても)間接的な代理指標にすぎない」と研究者らは記している。予測されたエンゲージメントによるランキングは大手プラットフォーム全体で標準的なアーキテクチャであり、TikTok、Instagram、YouTubeも同様に、利用者がどのコンテンツとやり取りするかを予測するモデルを中心にフィードを構築している。したがって、研究者らが指摘するエンゲージメントシグナルと表明された価値観との乖離は、Xの実装に固有のものではない。

報告書によると、MIT、ミシガン大学、ジョンズ・ホプキンズ大学、スタンフォード大学、エール大学の研究者らは、2024年9月と10月に米国のアクティブなX利用者715人を研究対象とした。参加者はブラウザ拡張機能をインストールし、自分の「For You」フィードと「Following(フォロー中)」フィードのデータを収集した。

報告によれば、Xは民主党支持者に対して、表明した価値観に反するコンテンツをより多く表示し、共和党支持者への効果ははるかに弱かった。全利用者では、増幅されたコンテンツのスコアは-0.150であった一方、自分でフォローを選んだアカウントの投稿は概ね価値観と一致していた。この対比は実際上重要である。「For You」はXのデフォルトのタイムラインであり、利用者は時系列の「Following」フィードに手動で切り替える必要があるため、増幅されたコンテンツこそがプラットフォームが最初に提示するものだからだ。

「しかし、自己申告された価値観と在庫コンテンツとのこの整合性を超えて、参加者の価値観はコンテンツが増幅される可能性と負の相関にあることを観察した」と研究者らは述べ、この知見は「アルゴリズムが実際には利用者の明示的な価値観と不一致なコンテンツを増幅している」ことを示唆すると付け加えた。

再現実験でも同様の党派別の分裂が確認され、民主党支持者で-0.199、共和党支持者で0.0372であった。

研究によると、この違いの一部は返信によって説明できる可能性があるという。研究者らは、自分の価値観と相反するコンテンツを投稿する人に返信する利用者は、それをもっと見たいというシグナルをXに誤って送ってしまう可能性があると述べた。

「総合すると、これらの知見は、人々が抱く価値観と反応を引き起こす価値観との間の緊張、そしてこの価値観の緊張がどう不一致な結果を生み出しうるのかを垣間見せるものだ」と研究者らは記している。

研究者らは、価値観と不一致な返信を誘発した投稿の背後にあるアカウントが人間か自動化されたものかを調査しておらず、ボットの役割は未解決のままである。

フィードアルゴリズムが利用者に何を見せるかをどう形成するかは、欧州でも規制上の監視の対象となっている。EUのデジタルサービス法は、Xを含む超大規模プラットフォームに対し、プロファイリングに基づかないレコメンダーオプションを少なくとも1つ提供することを義務付けており、欧州委員会は2023年12月に、違法コンテンツへの対応や「ブルーチェック」認証ラベルの扱いを含む疑わしい違反について、Xに対して正式な手続きを開始した。

この知見は、Xが1月にGrok搭載の「For You」アルゴリズムをオープンソース化した後に得られたものであり、それにより、いいねや返信を含む利用者の行動を予測して投稿をランキングするレコメンドシステムが明らかになった。これは同プラットフォームにとって2度目の公開である。当時まだTwitterという名前だったXは、イーロン・マスクが約440億ドルで同社の買収を完了して数か月後の2023年3月に、ランキングコードの一部を初めて公開していた。最新のコードが公開されているため、外部の研究者は返信などのシグナルがどう重み付けされているかを検証できるようになった。これはまさに、PNASの研究が価値観との不一致と結び付けているメカニズムである。イーロン・マスクは当時、このアルゴリズムは「大幅な改善が必要だ」と述べていた。

「アルゴリズムが愚かで、大幅な改善が必要であることは分かっている。しかし少なくとも、リアルタイムかつ透明性を持って改善に努める姿を皆が見られる」とマスクは公開に続いてツイートした。「これを行っている他のソーシャルメディア企業はない」。