Meta的监督委员会已下令该公司删除一段AI生成的视频，该视频利用一名苏格兰工党议员的形象，伪造其支持难民实施性暴力的内容。Meta最初决定保留该视频，监督委员会在推翻这一决定的同时，还警告称Meta对深度伪造内容的处理方式使用户面临被欺骗的风险。

监督委员会是Meta于2020年设立的独立机构，负责审查公司的内容审核决定。该委员会在一份声明中公布了裁决，其核心是2025年11月在Facebook上出现的一段视频。视频显示苏格兰一名地方工党政客似乎在说：“难民在这里是受欢迎的，即使他们强奸我们的女性，因为白人也这样做。”

监督委员会称该视频看起来逼真但实为合成内容，并指出音频与议员的嘴部动作不一致。该视频出现在一个相册中，相册里还有一张包括该议员在内的多名具名女性在反极右翼抗议活动中的照片。

两名用户（其中一人是议员本人）依据Meta的欺凌和骚扰规则举报了该视频，但公司系统从未将其转交给人工审核员，视频在两次申诉期间一直保持在线。随后第三名用户将该案提交给监督委员会。即使在此之后，Meta仍坚持认为该视频未违反任何规则，也不需要AI标签。该议员告诉监督委员会，这段视频令她“非常痛苦”。

监督委员会多数成员认定该视频违反了Meta的仇恨行为政策，因为它将严重犯罪行为和掠夺性性行为归咎于难民整体，驳回了Meta关于视频只针对部分难民的说法。委员会并未将该视频视为可删除的错误信息，但表示它本应带有“高风险AI”标签。

委员会在一点上认同Meta的看法：欺凌和骚扰规则并不要求删除该视频，因为民选官员属于公众人物，所受保护低于普通个人。

第二起案件与建议

监督委员会还介入了第二起案件，涉及一段经AI篡改、宣传经期健康教育的女性访谈视频。经委员会介入后，Meta以欺凌为由删除了该视频。委员会还单独发布了政策建议，呼吁平台大规模识别并标注经AI篡改的音频和视频。

综合两起裁决，监督委员会称Meta的保障措施“一贯且从根本上不够完善”。

委员会建议Meta降低“高风险”标签的适用门槛，使其不再仅限于选举或危机情形，并用点击跳转的插页取代部分标签。委员会还建议对高风险AI内容取消货币化、降低其权重或将其从推荐中移除，并对屡次传播者实施递进式处罚。

委员会还希望Meta在被举报时优先安排疑似AI内容的人工审核，每年公布AI标签的使用频率数据（包括针对政客的帖子），并将投票和人口普查规则的措辞修改为全球适用，而非仅限于美国。Meta须在60天内作出回应。委员会针对该视频的裁决对公司具有约束力，但更广泛的政策建议只需Meta作出回应，由Meta自行决定采纳哪些修改建议。

全球收紧合成媒体监管

上述裁决出台之际，全球各国政府和平台正在收紧对合成媒体的监管，这一并行推进也在促使企业大规模识别并标注经篡改的音频和视频。中国最高人民法院于9月7日制定了责任规则，规定未经许可创建或分享他人面部或声音的AI复制品属于侵权行为。Cryptopolitan曾报道，北京今年早些时候在“清朗”专项整治第一阶段中单独下架了超过14,000个AI产品。

欧盟《AI生成内容透明度实践守则》推动提供商对AI输出进行标记，并要求部署方对深度伪造内容进行标注。

Google Play的AI生成内容政策禁止用户发布未经同意的深度伪造色情内容以及“明显具有欺骗性或虚假”的选举内容。

Medium仅允许少数用户在未披露的情况下使用AI进行写作，且该平台完全禁止AI生成的虚假信息。