Le comité de surveillance de Meta a ordonné à l'entreprise de retirer une vidéo générée par IA qui utilisait l'image d'une élue du Parti travaiste écossaise pour la montrer à tort en train d'approuver des violences sexuelles commises par des réfugiés. Meta avait initialement décidé de laisser la vidéo en ligne, et au-delà de l'annulation de cette décision, le comité a averti que la manière dont l'entreprise gère les deepfakes expose les utilisateurs à un risque de tromperie.

Le comité, un organe indépendant créé par Meta en 2020 pour examiner ses décisions de modération de contenu, a annoncé sa décision dans un communiqué, qui porte sur une vidéo apparue sur Facebook en novembre 2025. La vidéo montrait une politicienne locale du Parti travaiste en Écosse semblant dire : « Refugees are welcome here, even if they rape our women, because white people do that too. »

Le comité a décrit cette représentation comme réaliste mais synthétique, notant que l'audio ne correspondait pas aux mouvements faciaux de l'élue. La vidéo figurait dans un album contenant également une photographie de plusieurs femmes identifiées, dont l'élue, lors d'une manifestation contre l'extrême droite.

Deux utilisateurs, dont l'élue elle-même, ont signalé la vidéo au titre des règles de Meta sur l'intimidation et le harcèlement, mais les systèmes de l'entreprise ne l'ont jamais transmise à un examinateur humain, et elle est restée en ligne malgré deux recours. Un troisième utilisateur a alors porté l'affaire devant le comité. Même après ce signalement, Meta a maintenu que la vidéo ne violait aucune règle et ne justifiait pas de label IA. L'élue a déclaré au comité que la vidéo était « quite traumatic ».

La majorité du comité a estimé que la vidéo violait la politique de Meta sur la conduite haineuse parce qu'elle accusait les réfugiés en tant que groupe entier de criminalité grave et de comportements sexuels prédateurs, rejetant l'affirmation de Meta selon laquelle elle ne visait que certains réfugiés. Le comité n'a pas considéré la vidéo comme une désinformation supprimable, mais a indiqué qu'elle aurait dû porter un label « High Risk AI ».

Le comité a toutefois donné raison à Meta sur un point : les règles sur l'intimidation et le harcèlement nigeaient pas le retrait, car une élue est une personnalité publique bénéficiant d'une protection moindre qu'une personne privée.

Seconde affaire et recommandations

Le comité est également intervenu dans une seconde affaire impliquant une interview manipulée par IA d'une femme faisant la promotion de l'éducation sur la santé menstruelle. Suite à l'intervention du comité, Meta a retiré cette vidéo pour intimidation. Le comité a par ailleurs publié des conseils politiques appelant les plateformes à identifier et marquer les contenus audio et vidéo manipulés par IA à grande échelle.

Prises ensemble, ces deux décisions ont conduit le comité à qualifier les dispositifs de sécurité de Meta de « consistently and fundamentally inadequate ».

Le comité a recommandé que Meta abaisse le seuil des labels « high risk » afin qu'ils ne soient pas réservés aux élections ou aux crises, et qu'elle remplace certains labels par un écran interstitiel à valider. Il a également suggéré que les contenus IA à haut risque soient démonétisés, rétrogradés ou exclus des recommandations, avec des sanctions graduées pour les récidivistes.

Le comité souhaite également que Meta donne la priorité à l'examen humain des contenus suspects d'être générés par IA lorsqu'ils sont signalés, publie chaque année des données sur la fréquence d'application des labels IA, y compris sur les publications concernant des politiciens, et formule ses règles sur les élections et les recensements de manière à s'appliquer mondialement plutôt qu'aux seuls États-Unis. Meta dispose de 60 jours pour répondre au comité. La décision du comité sur la vidéo elle-même lie l'entreprise, mais ses recommandations politiques plus larges n'exigent qu'une réponse, laissant à Meta le choix des changements proposés à adopter.

Un durcissement mondial sur les médias synthétiques

Ces décisions interviennent alors que gouvernements et plateformes dans le monde entier durcissent leurs règles sur les médias synthétiques, une dynamique parallèle qui pousse les entreprises à identifier et marquer les contenus audio et vidéo manipulés à grande échelle. La Cour populaire suprême de Chine a établi des règles de responsabilité le 7 septembre, stipulant que créer ou partager une réplique IA du visage ou de la voix d'une personne sans autorisation constitue une infraction. Cryptopolitan a rapporté que Pékin a par ailleurs retiré plus de 14 000 produits IA lors de la première phase de sa campagne de nettoyage « Qinglang » plus tôt cette année.

Le Code de conduite de l'Union européenne sur la transparence des contenus générés par IA invite les fournisseurs à marquer les contenus IA et les déployeurs à étiqueter les deepfakes.

La politique de Google Play sur les contenus générés par IA interdit aux utilisateurs de publier du matériel sexuel deepfake sans consentement et des contenus électoraux « manifestement trompeurs ou faux ».

Seuls quelques utilisateurs sont autorisés à utiliser l'IA en écriture non divulguée sur Medium, et la plateforme interdit catégoriquement la désinformation générée par IA.