Meta的監督委員會裁定,該公司必須移除一支以AI生成、利用一名蘇格蘭工黨議員形象虛構她支持難民性暴力的影片。Meta最初決定將該影片保留在線上,監督委員會不僅推翻了這項決定,還警告Meta處理深偽內容的方式會使用戶面臨被欺騙的風險。

監督委員會是Meta於2020年設立、用於審查該公司內容審核決定的獨立機構,其在一份聲明中宣布了這項決定。案件核心是2025年11月在Facebook上流傳的一段影片,畫面中一名蘇格蘭當地工黨政治人物似乎說道:「難民在這裡是受歡迎的,即使他們強暴我們的女性,因為白人也這麼做。」

監督委員會指出,該影片看似逼真但實為合成,音訊與議員的臉部動作並不一致。該片段出現在一個相簿中,相簿內還包含一張多名具名女性(包括該議員)在反極右翼抗議活動中的照片。

兩名用戶(其中一人是議員本人)依Meta的霸凌與騷擾規則檢舉了該影片,但公司的系統從未將其轉交人工審查,影片在兩次上訴後仍持續在線上。隨後第三名用戶將此案提交給監督委員會。即使在這次升級處理後,Meta仍堅稱該影片未違反任何規則,也不需要加上AI標籤。議員告訴委員會,這支影片令她「非常受創」。

委員會多數成員認定該片段違反Meta的仇恨行為政策,因為它將嚴重犯罪行為和掠奪性性行為歸咎於難民整個群體,並駁回了Meta關於影片僅針對部分難民的說法。委員會並未將該影片視為可移除的錯誤資訊,但表示其本應加上「High Risk AI」標籤。

委員會在一點上同意Meta的看法:霸凌與騷擾規則並未要求移除該影片,因為民選官員屬於公眾人物,所受的保護低於一般人。

第二案件與建議

監督委員會也介入了第二宗案件,涉及一段經AI操弄、以一名推廣月經健康教育的女性為主的訪談影片。在委員會介入後,Meta以霸凌為由移除了該影片。委員會另外還發布了政策建議,呼籲平台大規模識別並標籤經AI操弄的音訊與影片。

綜合這兩項裁決,委員會批評Meta的防護措施「持續且根本性地不足」。

委員會建議Meta降低「高風險」標籤的門檻,使其不再僅適用於選舉或危機事件,並以點擊後才能繼續瀏覽的插頁取代部分標籤。委員會還建議,高風險AI內容應被取消營利資格、降低排名或從推薦中移除,並對屢次分享者施加逐步加重的處罰。

委員會進一步要求Meta在被檢舉時優先對疑似AI內容進行人工審查、每年公布AI標籤的適用頻率數據(包括涉及政治人物的貼文),並將其投票與人口普查規則措辭修改為全球適用,而非僅限於美國。Meta須在60天內回應委員會。委員會關於該影片本身的裁決對公司具有約束力,但其更廣泛的政策建議僅要求回應,由Meta自行決定採納哪些修改。

全球對合成媒體的監管趨嚴

這些裁決出台之際,全球各國政府與平台正加緊收緊對合成媒體的規範,這股平行推動的力量正促使企業大規模識別並標籤經操弄的音訊與影片。中國最高人民法院於9月7日訂定責任規則,指出未經許可創作或分享他人臉部或聲音的AI複製品即構成侵權。Cryptopolitan報導,北京另外在今年稍早「清朗」行動的第一階段中移除了超過14,000個AI產品。

歐盟AI生成內容透明度實務守則推動提供商標記AI輸出內容,並要求部署者為深偽內容加上標籤。

Google Play的AI生成內容政策禁止用戶發布未經同意的深偽性材料,以及「明顯具有欺騙性或虛假」的選舉內容。

Medium僅允許少數用戶在未揭露的情況下使用AI寫作,且該平台完全禁止AI生成的虛假資訊。