欧州委員会は、TikTokのレコメンデーションシステムが類似動画の「隙間沼」にユーザーを閉じ込めているとして、EU域内のオンラインコンテンツ規則に違反していると non告発した。ブルッセルはこの設計が子どもや脆弱な人々のメンタルヘルスに損害を与えうると主張している。この暫定的な見解により、TikTokは親会社ByteDanceの世界年間売上高の最大6%に相当する罰金のリスクにさらされている。

なぜアルゴリズムがブルッセルの標的になったのか

今回のケースは、委員会がプラットフォームのレコメンデーションシステム自体がデジタルサービス法(DSA)に違反すると認定した初の事例だ。DSAは、大規模なオンラインプラットフォームに有害・違法コンテンツへの対応を義務付けるEU法である。このため本調査は、プラットフォームがホストするコンテンツだけでなく、アルゴリズムの設計自体が法違反となりうるかを試すものとなる。TikTokは、EUが域内の月間ユーザー数4,500万人超のサービスに適用する「非常に大規模なオンラインプラットフォーム」の強化された義務を負っている。POLITICOに匿名で語った委員会の担当官は、規制当局がこうしたエンゲージメント主導型のシステムがユーザーをどう夢中にさせるかをより詳しく精査していると述べた。

苦情の中心はTikTokの「For You」フィードの仕組みだ。委員会によると、ユーザーが特定の動画を視聴したり「いいね」したりするほど、TikTokはより類似した動画を表示するという。EUは、悲しみ、孤独、身体イメージに関する動画が流れ続けることで不安が高まり、自尊心が傷つき、摂食障害が悪化しうると主張している。担当官の一人は、証拠が最も強かったのがメンタルヘルスだったため調査はそこに焦点を当てたとPOLITICOに語った。

EUが求める修正策と、TikTokの対応が不十分とされる理由

TikTokはすでに影響を和らげるための変更を行っているが、EUはこれらの対策を効果がないと判断した。規制当局は、視聴行動よりもユーザーが明示した設定をレコメンドの基礎にすることを求めている。

委員会はまた、TikTokの「興味ありません」ボタンについても懸念を示しており、AFPによると、それでは「コンテンツフィードを変えるには不十分かもしれない」としている。規制当局は、視聴時間に基づく動画の提案をやめること、設定を使いやすくすること、アルゴリズムを定期的に点検することも求めている。

担当官の一人は、DSAがパーソナルデータを使わないフィードの提供をプラットフォームに義務付けているが、これを選択しているTikTokユーザーはわずか0.2%にとどまり、事実上すべてのユーザーが行動主導型のフィードを使い続けていると指摘した。

EUのテック担当トップであるヘンナ・ビルクネン氏は、ユーザーが動画をスクロールしたり「いいね」したりするたびに、TikTokがより類似したコンテンツを表示するため、そのサイクルから抜け出すのが難しくなると欧州委員会の発表で述べた。さらに同氏は、特に子どもを守るため、TikTokにはより多くの対応が求められると付け加えた。

TikTokの5件目のケースとEUの取り締まり拡大

EUの執行機関は今回、中国企業が所有するTikTokを5回目の規則違反で告発した。ただし、まだ罰金は科されていない。

2月、規制当局はTikTokが「中毒性のある設計」機能に依存し、子どもを守るための対応が不十分だと non指摘し、TikTokはこれらの主張を「完全に事実無根」と non反論した。7月には、EUがさらに容疑を追加し、同アプリが子どもをサイバーブリーングや捕食的な行為にさらしたと non主張した。

罰則が科される前に、TikTokは証拠を確認し、問題の解決策を提案することができる。問題の解決はこれが初めてではない。同社は以前、広告の透明性に関するDSAのケースを、変更に同意することで解決している。

圧力にさらされているのはTikTokだけではない。委員会はMetaのFacebookとInstagramでも同様の問題を調査しており、7月にはMetaに「中毒性のある設計」の低減を命じた。Metaがこの命令をどう実行するか、そしてTikTokの対応が委員会を満足させるかどうかが、EUによるレコメンデーションシステムへの幅広い精査における次の注目点だ。

こうした精査は、他の法域での法廷闘争とも呼应している。9月、TikTokは米アラバマ州に少なくとも1億ドルを支払い訴訟を回避するとともに、10代ユーザーへの時間制限の設定に同意した。