Rada nadzorcza Meta nakazała firmie usunięcie wygenerowanego przez AI wideo, które wykorzystało wizerunek szkockiej radnej z Partii Pracy, fałszywie przedstawiając ją jako popierającą przemoc seksualną ze strony uchodźców. Meta początkowo zdecydowała o pozostawieniu klipu online, a poza uchyleniem tej decyzji Rada ostrzegła, że sposób, w jaki firma obchodzi się z deepfake'ami, naraża użytkowników na ryzyko wprowadzenia w błąd.

Rada, niezależny organ powołany przez Metę w 2020 roku do weryfikacji decyzji firmy w zakresie moderacji treści, ogłosiła swoją decyzję w oświadczeniu, które dotyczy klipu, jaki pojawił się na Facebooku w listopadzie 2025 roku. Wideo pokazywało lokalną polityk Partii Pracy w Szkocji mówiącą rzekomo: „Uchodźcy są tu mile widziani, nawet jeśli gwałcą nasze kobiety, bo biali ludzie też to robią”.

Rada opisała to przedstawienie jako realistyczne, lecz syntetyczne, wskazując, że dźk nie zgadzał się z ruchami twarzy radnej. Klip pojawił się w albumie, który zawierał także fotografię kilku nazwanych z imienia i nazwiska kobiet, w tym radnej, podczas protestu przeciwko skrajnej prawicy.

Dwóch użytkowników, w tym sama radna, zgłosiło wideo na podstawie zasad Meta dotyczących znęcania się i nękania, ale systemy firmy nigdy nie skierowały go do ludzkiego recenzenta i pozostało online przez dwa odwołania. Trzeci użytkownik przekazał sprawę do Rady. Nawet po tym eskalowaniu Meta utrzymywała, że wideo nie naruszało żadnych zasad i nie wymagało etykiety AI. Radna powiedziała Radzie, że wideo było „bardzo traumatyczne”.

Większość Rady uznała, że klip naruszał politykę Meta dotyczącą nienawistnych zachowań, ponieważ przypisywał uchodźcom jako całej grupie poważną przestępczość i drapieżne zachowania seksualne, odrzucając twierdzenie Meta, że dotyczył tylko niektórych uchodźców. Rada nie uznała wideo za dezinformację podlegającą usunięciu, ale stwierdziła, że powinno ono nosić etykietę „High Risk AI”.

Rada zgodziła się z Metą w jednym punkcie: zasady dotyczące znęcania się i nękania nie wymagały usunięcia, ponieważ wybrany urzędnik jest osobą publiczną, która korzysta z mniejszej ochrony niż osoba prywatna.

Druga sprawa i zalecenia

Rada zajęła się także drugą sprawą, dotyczącą zmanipulowanego przez AI wywiadu z kobietą promującą edukację w zakresie zdrowia menstruacyjnego. Po interwencji Rady Meta usunęła to wideo z powodu znęcania się. Rada odrębnie wydała zalecenia dotyczące polityki, wzywające platformy do masowego identyfikowania i oznaczania dźwięku oraz wideo zmanipulowanego przez AI.

Oba orzeczenia skłoniły Radę do nazwania zabezpieczeń Meta „konsekwentnie i zasadniczo niewystarczającymi”.

Rada zaleciła, aby Meta obniżyła próg dla etykiet „wysokiego ryzyka”, tak aby nie były one zarezerwowane wyłącznie dla wyborów czy kryzysów, oraz zastąpiła niektóre etykiety komunikatem wymagającym kliknięcia. Zasugerowała również, że treści AI wysokiego ryzyka powinny być demonetyzowane, degradowane lub usuwane z rekomendacji, z rosnącymi karami dla powtarzających udostępniających.

Rada chce ponadto, aby Meta priorytetowo traktowała podejrzewane treści AI przy przeglądzie przez ludzi po zgłoszeniu, publikowała coroczne dane o częstotliwości stosowania etykiet AI, także wobec postów o politykach, oraz sformułowała swoje zasady dotyczące głosowania i spisu powszechnego tak, aby obowiązywały globalnie, a nie tylko w Stanach Zjednoczonych. Meta ma 60 dni na odpowiedź. Orzeczenie Rady w sprawie samego wideo wiąże firmę, ale szersze zalecenia polityczne wymagają jedynie odpowiedzi, pozostawiając Metei decyzję, które z proponowanych zmian wdroży.

Globalne zaostrzanie zasad dotyczących mediów syntetycznych

Orzeczenia zapadają w momencie, gdy rządy i platformy na całym świecie zaostrzają zasady dotyczące mediów syntetycznych — równoległy ruch, który naciska na firmy, by identyfikowały i oznaczały zmanipulowany dźwięk i wideo na dużą skalę. Sąd Najwyższy Chin ustanowił 7 września zasady odpowiedzialności, według których tworzenie lub udostępnianie bez zgody AI-kopii czyjegoś głosu lub twarzy stanowi naruszenie praw. Cryptopolitan poinformował, że Pekin odrębnie usunął ponad 14 000 produktów AI w pierwszej fazie akcji porządkowej „Qinglang” na początku tego roku.

Europejski kodeks praktyki w zakresie przejrzystości treści generowanych przez AI nakłania dostawców do oznaczania wyników AI, a wdrażających do etykietowania deepfake'ów.

Polityka treści generowanych przez AI w Google Play zabrania użytkownikom publikowania niekonsensualnych materiałów deepfake o charakterze seksualnym oraz treści wyborczych, które są „oczywiście zwodnicze lub fałszywe”.

Tylko nieliczni użytkownicy Medium mogą korzystać z AI w piśmie bez ujawniania tego, a platforma całkowicie zakazuje dezinformacji generowanej przez AI.