L'Oversight Board di Meta ha ordinato all'azienda di rimuovere un video generato con l'IA che utilizzava l'immagine di una consigliera del Labour scozzese per raffigurare falsamente il suo sostegno a violenze sessuali da parte di rifugiati. Meta aveva inizialmente deciso di lasciare il clip online e, oltre a ribaltare tale decisione, il Board ha avvertito che il modo in cui l'azienda gestisce i deepfake espone gli utenti al rischio di inganno.

Il Board, un comitato indipendente istituito da Meta nel 2020 per riesaminare le decisioni di moderazione dei contenuti dell'azienda, ha annunciato la propria decisione in una dichiarazione, incentrata su un clip apparso su Facebook a novembre 2025. Il video mostrava una politica locale del Labour in Scozia mentre sembrava dire: "I rifugiati sono benvenuti qui, anche se violentano le nostre donne, perché anche i bianchi lo fanno".

Il Board ha descritto la rappresentazione come realistica ma sintetica, osservando che l'audio non era allineato ai movimenti del volto della consigliera. Il clip appariva in un album che conteneva anche una fotografia di diverse donne identificate, tra cui la consigliera, durante una protesta anti-estrema destra.

Due utenti, uno dei quali la stessa consigliera, hanno segnalato il video ai sensi delle regole di Meta su bullismo e molestie, ma i sistemi dell'azienda non lo hanno mai inoltrato a un revisore umano, ed è rimasto online attraverso due appelli. Un terzo utente ha poi portato il caso al Board. Anche dopo tale escalation, Meta ha sostenuto che il video non violava alcuna regola e non giustificava un'etichetta IA. La consigliera ha raccontato al Board che il video è stato "piuttosto traumatico".

La maggioranza del Board ha ritenuto che il clip violasse la politica di Meta sui Conteniti d'Odio perché accusava rifugiati come intero gruppo di gravi crimini e comportamenti sessuali predatori, respingendo la tesi di Meta secondo cui riguardava solo alcuni rifugiati. Il Board non lo ha trattato come disinformazione rimuovibile, ma ha affermato che avrebbe dovuto recare un'etichetta "High Risk AI".

Il Board ha concordato con Meta su un punto: le regole su bullismo e molestie non richiedevano la rimozione, perché un Funzionario eletto è una figura pubblica che gode di una tutela inferiore rispetto a una persona privata.

Secondo caso e raccomandazioni

Il Board è intervenuto anche in un secondo caso riguardante un'intervista manipolata con l'IA di una donna che promuoveva l'educazione alla salute mestruale. A seguito dell'intervento del Board, Meta ha rimosso quel video per bullismo. Il Board ha inoltre emesso separatamente consigli di politica invitando le piattaforme a identificare ed etichettare su larga scala audio e video manipolati con l'IA.

Prese insieme, le due decisioni hanno spinto il Board a definire le misure di salvaguardia di Meta "costantemente e fondamentalmente inadeguate".

Il Board ha raccomandato a Meta di abbassare la soglia per le etichette "alto rischio" affinché non siano riservate a elezioni o crisi, e di sostituire alcune etichette con un interstitial da confermare con un clic. Ha inoltre suggerito che i contenuti IA ad alto rischio vengano demonetizzati, declassati o rimossi dai consigli, con sanzioni progressive per chi li condivide ripetutamente.

Il Board chiede inoltre a Meta di dare priorità alla revisione umana dei contenuti sospetti di IA quando segnalati, di pubblicare dati annuali sulla frequenza con cui applica le etichette IA, comprese le pubblicazioni sui politici, e di formulare le proprie regole su voto e censimento in modo da applicarsi a livello globale anziché solo negli Stati Uniti. Meta ha 60 giorni per rispondere al Board. La decisione del Board sul video è essa stessa vincolante per l'azienda, ma le più ampie raccomandazioni di politica richiedono solo una risposta, lasciando a Meta la scelta di quali modifiche proposte adottare.

Inasprimento globale sulle media sintetiche

Le decisioni arrivano mentre governi e piattaforme di tutto il mondo inaspriscono le regole sui media sintetici, una spinta parallela che sollecita le aziende a identificare ed etichettare su larga scala audio e video manipolati. La Corte Suprema Popolareinese ha stabilito regole di responsabilità il 7 settembre secondo cui creare o condividere una replica IA del volto o della voce di una persona senza autorizzazione costituisce una violazione. Cryptopolitan ha riferito che Pechino ha rimosso separatamente più di 14.000 prodotti IA nella prima fase della campagna di pulizia "Qinglang" all'inizio di quest'anno.

Il Codice di condotta dell'Unione europea sulla trasparenza dei contenuti generati dall'IA spinge i fornitori a contrassegnare i prodotti IA e i deployer a etichettare i deepfake.

La politica di Google Play sui contenuti generati dall'IA vieta agli utenti di pubblicare materiale sessuale deepfake non consensuale e contenuti elettorali che siano "dimostrabilmente ingannevoli o falsi".

Solo pochi utenti sono autorizzati a usare l'IA nella scrittura senza dichiararlo su Medium, e la piattaforma vieta categoricamente la disinformazione generata con l'IA.