两名美国参议员致函TikTok高管,就该公司进行的一项实验要求其作出解释。该实验曾向数百万用户隐瞒一项安全功能,其中包括一名后来自杀身亡的青少年。这两位议员是一项儿童网络保护法案的共同发起人,他们称TikTok进行该测试的决定“丧心病狂”。

这项实验的存在在一份2023年的公司机密文件中有详细记载,并于本月由彭博商业周刊予以报道。这一披露促使田纳西州共和党参议员玛莎·布莱克本与康涅狄格州民主党参议员理查德·布卢门撒尔于周三致函TikTok公司首席执行官周受资,以及该公司美国分拆业务的首席执行官亚当·普雷瑟。

这封长达四页的信函开头写道:“我们就令人作呕的新报道致函:TikTok明知故犯,对数百万美国用户——包括儿童——隐瞒一项关键安全措施,以确定保护用户是否会影响其财务底线。”两位参议员写道,《商业周刊》报道中“骇人听闻”的揭露,“令人对TikTok向国会、家长及美国公众反复作出的‘将年轻人的安全和福祉置于利润之上’的保证产生严重质疑”。

这份TikTok文件是在针对全球最大几家社交媒体公司的诉讼中提交的,并已被法院下令封存。文件显示,该公司故意对10%的美国用户关闭一项算法保护机制,将其变为对照组。该保护机制旨在打散有害内容形成的网络信息茧房。在当时,这一对照组约为1500万人。从部分用户中随机停用某项功能——即设立对照组——是科技平台衡量改动能否推动核心指标的标准做法。但该做法在本案中受到审视,因为被停用的是一项安全保护机制而非设计上的调整,且受影响人群包括未成年人。

其中一人是来自纽约州贝波特的16岁少年蔡斯·纳斯卡。文件显示,他的账号不断被推送数千条关于悲伤、绝望、孤独和自杀的视频,直至他结束自己的生命。蔡斯于2022年1月25日被随机选中参与该算法实验。不到一个月,他便离世。

文件解释了他的账号为何会收到文件所称“狂轰滥炸”般的阴暗内容:“TikTok的信息茧房防范策略有意未对该用户生效。”文件还阐述了公司对部分用户关闭安全设置的理由:“关于用户影响的决定,是在安全性与衡量对DAU(日活跃用户)和核心指标影响的能力之间进行微妙权衡的结果。”

TikTok未回应就这封信的置评请求。不过,在为《商业周刊》报道提供的一份声明中,TikTok发言人表示,公司“深切致力于用户的安全与福祉”,尤其是青少年。该发言人称:“对于任何遭遇不幸、痛失亲人的家庭,我们都心碎不已。”“为帮助保护我们的社区,我们持续在信任与安全(Trust & Safety)方面大力投入,包括健全的检测系统和专门的执行团队,主动移除违反我们《社区准则》的内容。”

布卢门撒尔和布莱克本在信中指出,自2021年10月起,国会便对TikTok算法将年轻用户引向有害内容表示担忧——而该实验在此之后才推出。两位参议员写道,这些揭露“因TikTok早已知悉其推荐算法对儿童的影响而更显阴险”。

两位参议员要求TikTok就13个问题作出回答,包括:所有知悉该实验的员工的姓名;公司为何允许未成年人被纳入测试的解释;高管何时知悉该实验的详情;以及《商业周刊》所报道文件的一份“完整且未经删节的版本”。他们还要求TikTok提供其在美国进行的每一项曾“隐瞒、停用、推迟或削减安全功能”的算法实验清单,并列明涉及的用户人数及其中未成年人的数量。参议员们限该公司在9月1日前作出回应。这一最后期限为该公司可能从仍处于法院封存令之下的文件中披露何种内容设定了时间表。

“他们明知故犯,还把用户当作实验品,这简直令人难以想象,”布莱克本在《商业周刊》报道发表之后、信函发出之前接受采访时表示。“这说明,当我们的孩子身处这些社交媒体平台上时——他们本身就是商品。”

在布莱克本看来,这项实验是企业将“赚钱和吸引眼球”置于安全之上的明证。“看看这个事实:这曾是一个快乐的、没有任何心理健康问题的16岁男孩,而在如此短的时间内,一条接一条、一篇接一篇地推送关于抑郁和自杀的视频与帖子,对这个孩子造成了怎样的影响。这令人恐惧——这些平台必须为此承担责任,”她说。

佛罗里达州共和党众议员格斯·比利拉基斯在一份书面声明中呼应了布莱克本的担忧,称该报道令人深感不安,并表明了“当互动指标和企业利润被置于我们孩子的安全与福祉之上时,可能造成的毁灭性后果”。在2023年3月的一场听证会上——也就是那份机密文件出炉数周后——比利拉基斯曾就蔡斯·纳斯卡一事质询TikTok首席执行官周受资,并对他说:“你们的技术正在直接导致死亡。”周受资回应称,公司“非常严肃地”对待这些问题,并为搜索自杀内容的用户提供心理健康资源。

比利拉基斯和布莱克本均表示,美国家庭等待儿童网络保护的时间已经太久,并呼吁加快推动儿童安全法案的立法进程。布莱克本正推动《儿童在线安全法案》(Kids Online Safety Act,简称KOSA),这是她与布卢门撒尔共同起草的一项参议院法案,旨在迫使科技平台将儿童安全置于利润之上。该法案2024年在众议院搁浅,但已于本届立法会期重新提出。比利拉基斯则力推《儿童互联网与数字安全法案》(Kids Internet and Digital Safety Act,简称KIDS Act),该法案涵盖参议院法案的大部分内容,以及涉及AI聊天机器人和视频游戏的法规。该法案已于6月在众议院获得通过。

众议院版本的法案删除了参议院版本中一项所谓的“注意义务”(duty-of-care)条款。该条款本将迫使科技公司尽到合理的注意义务,防止未成年人受到心理健康伤害——包括焦虑、抑郁以及对社交媒体产品的强迫性使用。出于对宪法第一修正案的担忧,该条款被删除。由于立法必须在参众两院以相同文本获得通过,“注意义务”条款成为议员们在众议院已通过的法案与参议院版本之间必须解决的主要分歧,这也是任何最终儿童安全法律出台的前提。

8月5日,即《商业周刊》报道发表次日,参议院商务、科学与交通委员会投票推进保留“注意义务”条款的原版重启KOSA法案。布莱克本在采访中表示,该条款将有助于防止未来发生类似的实验,因为社交媒体平台将被要求在产品设计上优先考虑安全,尤其是面向青少年的产品。通过委员会审议通常是法案提交参议院全体审议前的程序步骤。