兩名美國參議員已致函 TikTok 高層，要求說明公司進行的一項實驗；該實驗曾向數百萬用戶——包括一名後來死於自殺的青少年——隱藏一項安全功能。這兩位共同提案網路兒童安全法案的議員，將 TikTok 決定進行這項測試稱為「墮落」。

這項實驗的存在已在一份 2023 年的機密公司文件中詳細說明，並於本月由 Bloomberg Businessweek 報導。這項披露促使田納西州共和黨參議員 Marsha Blackburn 與康乃狄克州民主黨參議員 Richard Blumenthal 於週三致函 TikTok Inc. 執行長 Shou Chew，以及該公司美國分拆業務的執行長 Adam Presser。

信件開頭寫道：「我們就近期令人作嘔的報導致函，內容指 TikTok 明知故意對數百萬美國用戶——包括兒童——隱藏一項關鍵安全措施，以判斷保護用戶是否會影響其財務盈虧。」信中四頁內容所述的 Businessweek 報導「令人震驚」的揭露，兩位參議員寫道，「對 TikTok 一再向國會、家長與美國公眾保證其把年輕人的安全與福祉置於利潤之上的說法，提出了嚴重疑問。」

TikTok 文件——該文件是在針對全球最大社群媒體公司的訴訟中交付，並受法院命令封存——顯示公司刻意關閉了 10% 美國用戶的某項算法安全防護，將他們設為對照組。這項防護旨在打散有害內容的線上回音室效應。當時，該對照組約有 1,500 萬人。從一部分用戶中隨機隱藏功能——即對照組——是科技平台用來衡量變更是否推動核心指標的標準方法。此案受到關注，是因為被隱藏的是安全防護而非設計調整，而且受影響人群包含未成年人。

其中一人是來自紐約州 Bayport 的 16 歲少年 Chase Nasca。根據文件，他的帳號在他死亡前持續收到數千支關於悲傷、絕望、孤獨與自殺的影片。Chase 於 2022 年 1 月 25 日被隨機選入這項算法實驗，一個月內便死亡。

文件解釋了為何他的帳號會收到所稱的「大量」黑暗內容：「TikTok 的防止濾泡策略並未按照設計在該用戶身上生效。」文件也說明公司為何對部分用戶關閉安全設定：「用戶影響決策是在安全性與衡量對 DAU（每日活躍用戶）及核心指標影響的能力之間取得微妙平衡。」

TikTok 沒有回應就該信件發出的置評請求。不過，在提供給 Businessweek 報導的聲明中，TikTok 發言人表示，公司「對用戶的安全與福祉抱持深切承諾」，尤其是青少年。「我們對任何經歷悲劇性損失的家庭都感到心碎，」該發言人說。「為了協助保護我們的社群，我們持續大幅投資 Trust & Safety，包括強大的偵測系統與專責執法團隊，主動移除違反我們《社群規範》的內容。」

在致函中，Blumenthal 與 Blackburn 指出，自 2021 年 10 月起，國會就已對 TikTok 的算法把年輕用戶引向有害內容表示擔憂——早於公司推出這項實驗之前。兩位參議員寫道，這些揭露「因為 TikTok 早已被提醒其推薦算法對兒童的影響，而變得更加陰暗」。

兩位參議員要求回答 13 個問題，包括所有被告知此實驗的員工姓名；公司為何允許未成年人參與測試的說明；高層何時得知此實驗的細節；以及 Businessweek 報導所指文件的「完整、未刪節版本」。他們還要求提供 TikTok 在美國進行的所有算法實驗清單，其中包括 TikTok 曾「隱藏、停用、延遲或降低某項安全功能」的情況，以及涉及用戶人數與其中多少為未成年人。參議員給公司截至 9 月 1 日的回覆期限。

Blackburn 在 Businessweek 報導刊出後、信件寄出前接受訪問時說：「他們明知故犯，還把用戶當成實驗對象，這件事令人難以置信。」她說：「這顯示當我們的孩子使用這些社群媒體平台時——他們就是產品。」

在 Blackburn 看來，這項實驗明顯顯示公司把「賺錢和抓住眼球」置於安全之上。她說：「看看這一點：這原本是一個快樂的 16 歲男孩，沒有心理健康問題；然後，在這短短一段時間內，不斷餵送一支又一支影片、一則又一則貼文，內容都是關於憂鬱和自殺，對這個孩子造成了什麼影響。這令人害怕——而這正是這些平台必須被追究責任的事情。」

佛羅里達州共和黨眾議員 Gus Bilirakis 也在書面聲明中呼應 Blackburn 的擔憂，稱該報導令人深感不安，並顯示當互動指標和企業利潤被置於我們孩子的安全與福祉之上時，可能出現的「毀滅性後果」。在 2023 年 3 月的一場聽證會上，也就是這份機密文件完成後數週，Bilirakis 曾就 Chase Nasca 一事質詢 TikTok 執行長 Chew，並對他說：「你的技術實際上正在導致死亡。」Chew 回應稱，公司非常認真看待這些問題，並向搜尋自殺內容的用戶提供心理健康資源。

Bilirakis 與 Blackburn 都表示，美國家庭等待兒童網路保護已經太久，並呼籲加快推進兒童安全法案。Blackburn 正推動《Kids Online Safety Act》（KOSA），這是她與 Blumenthal 共同提出的參議院法案，旨在迫使科技平台將兒童安全置於利潤之上。該法案於 2024 年在眾議院未能通過，但本屆會期重新提出。Bilirakis 則主推《Kids Internet and Digital Safety》（KIDS）法案，該法案涵蓋參議院版本的大部分內容，以及針對 AI 聊天機器人和電子遊戲的法律條款。該案已於 6 月在眾議院通過。

眾議院版本刪除了參議院版本中的所謂照護義務條款，該條款原本會要求科技公司盡合理注意義務，防止對未成年人造成心理健康傷害，包括焦慮、憂鬱以及對社群媒體產品的強迫性使用。該條款因第一修正案相關疑慮而被移除。

在 Businessweek 報導刊出的隔天、即 8 月 5 日，參議院商務、科學與運輸委員會投票推進原先重啟的 KOSA，並保留照護義務條款。Blackburn 在訪問中表示，這項條款將有助於防止未來出現類似實驗，因為社群媒體平台將被要求在產品設計中優先考慮安全，特別是針對青少年。

本報導最初刊載於 Fortune.com