新闻宏观经济欧盟认定TikTok“兔子洞”算法违反《数字服务法》

欧盟认定TikTok“兔子洞”算法违反《数字服务法》

作者: Cryptopolitan·

要点速览

  • •欧盟委员会的初步认定是首次有平台的推荐算法本身被认定违反《数字服务法》。
  • •TikTok面临最高可达母公司字节跳动全球年营业额6%的罚款。
  • •监管机构指称,基于行为的“For You”信息流可能损害儿童及弱势用户的心理健康,并认定TikTok现有的整改措施无效。
  • •仅有0.2%的TikTok用户选择DSA要求平台提供的非个性化信息流选项,几乎所有用户仍停留在基于行为驱动的信息流上。
  • •欧盟委员会现已第五次指控TikTok违反欧盟规定,并正在调查Meta旗下Facebook和Instagram上的类似推荐系统问题。
欧盟认定TikTok“兔子洞”算法违反《数字服务法》

欧盟委员会指控TikTok违反欧盟的在线内容规则,称其推荐系统将用户困在相似视频的“兔子洞”中。布鲁塞尔方面声称,这种设计可能损害儿童及弱势群体的心理健康。初步认定结果使TikTok面临最高可达母公司字节跳动全球年营业额6%的罚款。

该算法为何成为布鲁塞尔的审查目标

此案是欧盟委员会首次认定平台的推荐系统本身违反《数字服务法》(DSA)——这部欧盟法律要求大型在线平台处理有害及非法内容。这使得此次调查成为对算法设计——而不仅仅是平台托管的内容——是否本身即可构成违法的一次检验。TikTok承担着DSA对超大型在线平台规定的强化义务,该认定适用于在欧盟境内月均用户超过4500万的服务。一位匿名向 POLITICO 透露消息的委员会官员表示,监管机构目前正在更深入地研究这类以提升参与度为核心的系统如何让用户持续沉迷。

此次投诉聚焦于TikTok的“For You”信息流。据欧盟委员会称,用户观看或点赞某些视频越多,TikTok向其推送的相似视频就越多。欧盟方面认为,持续推送有关悲伤、孤独或身材形象的内容可能加剧焦虑、损害自尊并加重饮食失调。一名官员告诉POLITICO,调查之所以聚焦心理健康,是因为这方面的证据最为充分。

欧盟期望的整改方案——以及TikTok现有措施为何不足

TikTok已经进行了旨在缓和这一效果的调整,但欧盟认定这些整改措施无效。监管机构希望该公司在推荐时更多基于用户的明示偏好,而非其观看行为。

据 AFP 报道,欧盟委员会还对TikTok的“我不感兴趣”按钮表示担忧,称其“可能不足以改变内容信息流”。监管机构要求TikTok停止依据观看时长推荐视频,简化设置操作,并定期审查其算法。

一名官员指出,DSA要求平台提供不使用个人数据进行内容推荐的信息流选项,但仅有0.2%的TikTok用户选择该选项,几乎所有用户仍停留在基于行为驱动的信息流上。

据欧盟委员会称,欧盟技术事务负责人Henna Virkkunen表示,用户每次滑动或点赞视频,TikTok都会向其推送更多相似内容,使这一循环更难打破。她补充说,TikTok需要采取更多措施保护用户,尤其是儿童。

TikTok的第五起案件与欧盟更广泛的整治行动

欧盟行政机构目前已第五次指控隶属于中国公司的TikTok违反其规定,但尚未对该平台处以罚款。今年2月,监管机构指控该应用依赖“成瘾性设计”功能,且在保护儿童方面做得不够;TikTok称这些指控“完全失实”。今年7月,欧盟提出另一项指控,称该平台使儿童暴露于网络欺凌和掠夺性行为之中。

在作出任何处罚之前,TikTok可以审阅证据并提出解决问题的方案。这并非该公司首次化解此类问题:TikTok此前曾通过同意作出整改,就一起涉及广告透明度的DSA案件达成和解。

面临这种压力的并非只有TikTok。欧盟委员会还在调查Meta旗下Facebook和Instagram上的类似问题,并于7月下令Meta减少“成瘾性设计”。Meta如何执行该命令,以及TikTok的回应能否令欧盟委员会满意,将是欧盟对推荐系统进行更广泛审查的后续关注重点。

这种密切审查与其他司法管辖区的法律诉讼相呼应。今年9月,TikTok向美国阿拉巴马州支付至少1亿美元以避免诉讼,并同意为青少年用户设置使用时长限制。