Наблюдательный совет Meta обязал компанию удалить созданное с помощью ИИ видео, в котором с использованием образа советника от Лейбористской партии Шотландии её ложно изображали как сторонницу сексуального насилия со стороны беженцев. Meta изначально решила оставить клип в сети, и, помимо отмены этого решения, Совет предупредил, что подход компании к дипфейкам подвергает пользователей риску обмана.

Совет — независимый орган, созданный Meta в 2020 году для пересмотра решений компании по модерации контента, — объявил своё решение в заявлении. Оно касается клипа, появившегося на Facebook в ноябре 2025 года. На видео местный политик от Лейбористской партии в Шотландии, казалось, произносит: «Беженцы здесь рады, даже если они насилуют наших женщин, потому что белые делают то же самое».

Совет охарактеризовал изображение как реалистичное, но синтетическое, отметив, что звук не совпадал с движениями лица советника. Клип находился в альбоме, где также содержалась фотография нескольких женщин поимённо, включая советника, на акции протеста против ультраправых.

Двое пользователей, в том числе сама советница, пожаловались на видео согласно правилам Meta о травле и преследовании, но системы компании так и не передали жалобу живому модератору, и видео оставалось в сети после двух апелляций. Затем третий пользователь обратился в Совет. Даже после этого Meta утверждала, что видео не нарушает никаких правил и не требует метки ИИ. Советница сообщила Совету, что видео стало для неё «весьма травмирующим».

Большинство членов Совета признало, что клип нарушает политику Meta о ненавистном поведении, поскольку приписывает беженцам как цел группе серьёзную преступность и хищническое сексуальное поведение, отклонив утверждение Meta о том, что он касался лишь некоторых беженцев. Совет не счёл видео удаляемой дезинформацией, но указал, что оно должно было иметь метку «High Risk AI».

С одним пунктом Совет согласился в пользу Meta: правила о травле и преследовании не требовали удаления, поскольку избранный чиновник является публичным лицом, которое имеет меньше защиты, чем частное лицо.

Второе дело и рекомендации

Совет также вмешался во второе дело, касавшееся смонтированного с помощью ИИ интервью с женщиной, продвигающей просвещение по вопросам менструального здоровья. После вмешательства Совета Meta удалила это видео за травлю. Отдельно Совет выпустил рекомендации по политике, призывающие платформы выявлять и маркировать ИИ-модифицированные аудио и видео в масштабе.

В совокупности эти два решения побудили Совет назвать меры защиты Meta «постоянно и принципиально неадекватными».

Совет рекомендовал Meta снизить порог для меток «высокого риска», чтобы они не применялись только к выборам или кризисам, и заменить некоторые метки промежуточным экраном с подтверждением. Также было предложено отключать монетизацию рискованного ИИ-контента, понижать его в рейтинге или исключать из рекомендаций, с нарастающими санкциями для повторных распространителей.

Кроме того, Совет хочет, чтобы Meta направляла подозреваемый ИИ-контент на приоритетную проверку людьми при жалобах, публиковала ежегодные данные о частоте применения ИИ-меток, в том числе к публикациям о политиках, и сформулировала правила голосования и переписи так, чтобы они действовали глобально, а не только в США. У Meta есть 60 дней на ответ Совету. Решение Совета о самом видео обязательно для компании, но более широкие рекомендации по политике требуют лишь ответа, оставляя Meta решение о том, какие из предложенных изменений принять.

Глобальное ужесточение правил в отношении синтетических медиа

Эти решения принимаются на фоне ужесточения правил в отношении синтетических медиа правительствами и платформами по всему миру — параллельного движения, побуждающего компании выявлять и маркировать модифицированные аудио и видео в масштабе. Верховный народный суд Китая установил правила ответственности 7 сентября, согласно которым создание или распространение ИИ-копии лица или голоса человека без разрешения является нарушением. Как сообщал Cryptopolitan, Пекин отдельно удалил более 14 000 ИИ-продуктов в первом этапе кампании по очистке интернета «Цинлян» ранее в этом году.

Кодекс практики ЕС по прозрачности ИИ-генерируемого контента требует от провайдеров маркировать ИИ-результаты, а от использующих их — маркировать дипфейки.

Политика Google Play в отношении ИИ-генерируемого контента запрещает пользователям публиковать дипфейк-порнографию без согласия изображённых лиц и предвыборный контент, являющийся «явно обманным или ложным».

На Medium лишь немногим пользователям разрешено использовать ИИ в текстах без указания этого, а платформа полностью запрещает ИИ-дезинформацию.