Metaの監督委員会(Oversight Board)は、スコットランドの労働党地方議員の肖像を用い、難民による性的暴力を支持しているかのように偽って描写したAI生成動画を削除するよう同社に命じました。Metaは当初この動画を公開し続ける判断を下していましたが、委員会はこの決定を覆しただけでなく、同社のディープフェイク対応がユーザーを欺罔のリスクにさらしていると警告しました。

委員会は、Metaが2020年にコンテンツモデレーション決定の審査のために設置した独立機関であり、今回の決定を声明で発表しました。この事案の中心は、2025年11月にFacebookに出現した動画で、スコットランドの労働党地方政治家が次のように語る姿が映されていました。「難民はここに歓迎される。たとえ彼らが私たちの女性をレイプしても、白人も同じことをするのだから。」

委員会はこの描写を「リアルだが合成されたもの」と評価し、音声が議員の顔の動きと一致していなかったと指摘しました。動画は、当該議員を含む複数の実名の女性が反極右抗議活動で写る写真も含むアルバム内で発見されました。

2人のユーザー(うち1人は議員本人)がMetaのいめ・嫌がらせ規則に基づき動画を報告しましたが、Metaのシステムは人間の審査担当者に一切回送せず、動画は2回の申し立てを経ても公開され続けました。その後、3人目のユーザーが委員会にこの件を持ち込みました。その段階でもMetaは動画が規則に違反せずAIラベルも不要と主張しました。議員は委員会に対し、この動画は「非常に心的外傷的」だったと述べました。

委員会の多数意見は、この動画が難民を集団全体として重大な犯罪行為や捕食的な性的行動の嫌疑をかけるものであるとして、Metaの「憎悪行為」ポリシーに違反していると認定し、一部の難民のみを対象とするというMetaの主張を退けました。委員会は動画を削除対象の誤情報としては扱いませんでしたが、「High Risk AI」ラベルが付されるべきだったとしました。

一方、委員会はMetaの主張のある点には同意しており、選出公職者は公的人物であり私人より保護が手薄でよいことから、いじめ・嫌がらせ規則による削除義務はなかったとしています。

第2の事案と勧告

委員会は、生理衛生教育を推進する女性のAI操作インタビューをめぐる第2の事案にも介入しました。委員会の介入を受けて、Metaは同動画をいじめを理由に削除しました。委員会はまた、プラットフォームに対しAI操作された音声・動画を大規模に識別しラベル付けするよう求める政策助言を別途発表しています。

2つの決定を踏まえ、委員会はMetaの安全対策を「一貫してかつ根本的に不十分」と評しました。

委員会は、「high risk」ラベルの適用閾値を引き下げ、選挙や危機に限定しないこと、一部のラベルをクリックスルー型の割り込み画面に置き換えることを勧告しました。さらに、高リスクAIコンテンツは収益化を停止、表示を降格、またはレコメンドから除外し、繰り返し共有者には段階的なペナルティを課すべきだと提案しました。

また、報告された疑わしいAIコンテンツの人間による審査を優先すること、AIラベルの適用頻度(政治家に関する投稿を含む)に関する年次データを公表すること、投票・国勢調査関連の規則を米国限定ではなく世界的に適用されるよう文言をめることも求めています。Metaには委員会への対応として60日間が与えられます。動画自体に関する委員会の決定は同社を拘束しますが、より広範な政策勧告は対応のみを求めるものであり、どの変更を採用するかはMetaの判断に委ねられます。

合成メディアに対する世界的な規制強化

今回の決定は、世界中の政府やプラットフォームが合成メディアへの規則を強化し、企業に操作された音声・動画の大規模な識別・ラベル付けを迫る動きと時期が重なっています。中国の最高人民法院は9月7日に賠償責任規則を定め、許可なく他人の顔や声のAI複製を作成・共有することは権利侵害であるとしています。Cryptopolitanは、北京市が今年前半、「清朗」浄化キャンペーンの第1段階で1万4,000件超のAI製品を別途削除したと報じています。

欧州連合のAI生成コンテンツ透明性に関する行動規範は、AI出力のマーキングを提供者に、ディープフェイクのラベル付けを利用者(展開者)に推進しています。

Google PlayのAI生成コンテンツポリシーは、同意のないディープフェイクの性的素材や「明白に欺瞞的または虚偽の」選挙コンテンツの投稿を禁止しています。

Mediumでは、AI利用を明示しない執筆が認められるのは一部のユーザーのみであり、同プラットフォームはAI生成の偽情報を全面的に禁止しています。