Расследование Fox News Digital, посвященное платформе персонализированных банок Coca-Cola, выявило несоответствия в системе модерации контента компании после волны критики в соцсетях из-за того, какие пользовательские сообщения инструмент разрешает, а какие блокирует.

Функция персонализации, которая позволяет наносить на банки Coke фразы длиной до 18 символов, блокировала распространенные религиозные выражения, такие как "Jesus is Lord" и "Allah is Lord", при этом разрешая фразы вроде "God is Dead", "Atheist Pride", "Shalom" и "Buddha Bless." Политические лозунги, включая "Make America Great", а также все фразы, выражающие гордость по расовому или идентичностному признаку — такие как "White Pride", "Black Pride" и "Black Lives Matter" — также блокировались. Однако лозунги вроде "Defund the Police" и названия групп, включая праворадикальную "Proud Boys", фильтр пропускал.

Также выявилось геополитическое несоответствие: "Stand with Israel" было разрешено, тогда как "Free Palestine" — заблокировано.

Когда фраза отклоняется, система выводит следующее сообщение: "The name or phrase you've submitted is not permitted. Names and phrases may not be permitted if they belong to a business, organization, celebrity, public figure, school, team or other trademark, are religious or political in nature, or could be considered inappropriate or unsuitable for other reasons."

Примечательно, что по состоянию на пятницу днем экстремальные и вредоносные фразы, такие как "Pedophile Pride" и "MAP Pride" (Minor-Attracted Person), система разрешала. Базовые способы обхода — например, добавление пробелов ("P e d o p h i l e") или замена букв цифрами ("Wh1t3 Pr1d3") — также позволяли обойти правила модерации.

Онлайн-инструмент персонализации Coca-Cola генерирует цифровой предпросмотр в реальном времени, хотя условия сайта компании указывают, что отправленный текст может потребовать дополнительной проверки до того, как заказ будет физически напечатан и отправлен.

Полученные результаты подчеркивают более широкую проблему, с которой сталкиваются потребительские бренды, предлагающие пользовательский контент: автоматизированным системам модерации сложно последовательно применять правила к полному спектру религиозной, политической и социальной лексики, особенно когда недобросовестные пользователи намеренно проверяют границы системы. Похожие пробелы в модерации проявляются на социальных платформах и в инструментах персонализации для электронной коммерции, где на масштабе трудно решить конфликт между свободой выражения и безопасностью бренда.

Представитель Coca-Cola сообщил Fox News Digital: "We created the Share A Coke personalization tool for Coca-Cola fans to celebrate with one another and make connections by creating bottles and cans with special names or phrases on them. We are aware of a technical issue affecting the personalization preview tool and are working to address it."

"While we review and take corrective action, we have disabled the preview feature and paused new personalized product orders after becoming aware that it has been used to generate content previews using restricted terms that do not align with our guidelines," continued the spokesperson. "All personalization orders are subject to moderation review after submission, and we have safeguards in place to prevent the approval and production of cans and bottles featuring religious, political, trademarked, inappropriate, or otherwise restricted terms and phrases. We will continue to enhance this tool based on consumer feedback."

Это не первый случай, когда автоматизированные фильтры персонализации Coca-Cola вызывают общественную критику. В 2021 году предыдущие версии онлайн-системы кастомизации бренда столкнулись с аналогичными претензиями из-за непоследовательной блокировки политических, религиозных и общественных терминов. Повторение ситуации позволяет предположить, что двухуровневый подход — фильтр предпросмотра в реальном времени, за которым следует ручная проверка перед производством, — может предотвращать отправку вредоносной продукции, но не мешает пользователям создавать и распространять в интернете скриншоты спорных предпросмотров, а именно там обычно и возникает репутационный ущерб.