Śledztwo Fox News Digital dotyczące platformy spersonalizowanych puszek Coca-Coli ujawniło niespójności w systemie moderacji treści firmy, po fali krytyki w mediach społecznościowych dotyczącej tego, jakie własne komunikaty narzędzie dopuszcza, a jakie blokuje.

Funkcja personalizacji, która pozwala użytkownikom drukować frazy liczące 18 znaków lub mniej na puszkach Coke, blokowała powszechne wyrażenia religijne, takie jak "Jesus is Lord" i "Allah is Lord", a jednocześnie dopuszczała frazy w rodzaju "God is Dead", "Atheist Pride", "Shalom" i "Buddha Bless." Hasła polityczne, w tym "Make America Great" oraz wszystkie wyrażenia dumy rasowej lub tożsamościowej — takie jak "White Pride", "Black Pride" i "Black Lives Matter" — również były blokowane. Jednak hasła takie jak "Defund the Police" oraz nazwy grup, w tym skrajnie prawicowi "Proud Boys", zostały zaakceptowane przez filtr.

Pojawiła się także rozbieżność geopolityczna: "Stand with Israel" było dozwolone, podczas gdy "Free Palestine" zostało zablokowane.

Gdy fraza zostaje odrzucona, system wyświetla następujący komunikat: "The name or phrase you've submitted is not permitted. Names and phrases may not be permitted if they belong to a business, organization, celebrity, public figure, school, team or other trademark, are religious or political in nature, or could be considered inappropriate or unsuitable for other reasons."

Co istotne, od piątkowego popołudnia system dopuszczał skrajne i szkodliwe frazy, takie jak "Pedophile Pride" i "MAP Pride" (Minor-Attracted Person). Podstawowe obejścia — takie jak wstawianie spacji ("P e d o p h i l e") lub zastępowanie liter cyframi ("Wh1t3 Pr1d3") — również pozwalały ominąć zasady moderacji.

Narzędzie do personalizacji online Coca-Coli generuje podglądy cyfrowe w czasie rzeczywistym, choć warunki korzystania ze strony firmy stanowią, że przesłany tekst może wymagać dodatkowej weryfikacji przed fizycznym wydrukowaniem i wysyłką zamówienia.

Ustalenia te podkreślają szersze wyzwanie stojące przed markami konsumenckimi, które dopuszczają treści tworzone przez użytkowników: zautomatyzowane systemy moderacji mają trudność z konsekwentnym stosowaniem zasad wobec pełnego spektrum języka religijnego, politycznego i społecznego, zwłaszcza gdy osoby celowo testują granice. Podobne luki w moderacji pojawiały się na platformach społecznościowych i w narzędziach personalizacji e-commerce, gdzie napięcie między swobodą wypowiedzi a bezpieczeństwem marki pozostaje trudne do rozwiązania na dużą skalę.

Rzecznik Coca-Coli powiedział Fox News Digital: "We created the Share A Coke personalization tool for Coca-Cola fans to celebrate with one another and make connections by creating bottles and cans with special names or phrases on them. We are aware of a technical issue affecting the personalization preview tool and are working to address it."

"While we review and take corrective action, we have disabled the preview feature and paused new personalized product orders after becoming aware that it has been used to generate content previews using restricted terms that do not align with our guidelines," kontynuował rzecznik. "All personalization orders are subject to moderation review after submission, and we have safeguards in place to prevent the approval and production of cans and bottles featuring religious, political, trademarked, inappropriate, or otherwise restricted terms and phrases. We will continue to enhance this tool based on consumer feedback."

To nie pierwszy raz, gdy zautomatyzowane filtry personalizacji Coca-Coli spotykają się z publiczną krytyką. W 2021 roku wcześniejsze wersje internetowego silnika personalizacji marki spotkały się z podobnymi zarzutami dotyczącymi niespójnego blokowania terminów politycznych, religijnych i związanych z ruchami społecznymi. Powtórzenie takich problemów sugeruje, że dwuwarstwowe podejście — filtr podglądu w czasie rzeczywistym, a następnie ręczna kontrola przed produkcją — może zapobiegać wysyłce szkodliwych produktów, ale nie uniemożliwia użytkownikom generowania i udostępniania w internecie zrzutów ekranu z kontrowersyjnymi podglądami, co zwykle powoduje szkody wizerunkowe.