Eine Untersuchung von Fox News Digital zur Plattform für personalisierte Coca-Cola-Dosen hat Unstimmigkeiten im Inhaltsmoderationssystem des Unternehmens aufgedeckt, nachdem es in sozialen Medien zu heftigen Reaktionen darüber gekommen war, welche individuellen Nachrichten das Tool zulässt und blockiert.

Die Anpassungsfunktion, mit der Nutzer Phrasen mit bis zu 18 Zeichen auf Coke-Dosen drucken können, blockierte gängige religiöse Aussagen wie "Jesus is Lord" und "Allah is Lord", erlaubte jedoch Formulierungen wie "God is Dead", "Atheist Pride", "Shalom" und "Buddha Bless." Politische Slogans wie "Make America Great" sowie alle Stolz-Formulierungen zu Rasse oder Identität – darunter "White Pride", "Black Pride" und "Black Lives Matter" – wurden ebenfalls blockiert. Slogans wie "Defund the Police" und Gruppennamen einschließlich der rechtsextremen "Proud Boys" wurden vom Filter hingegen akzeptiert.

Auch eine geopolitische Unterscheidung wurde sichtbar: "Stand with Israel" war zulässig, während "Free Palestine" blockiert wurde.

Wird eine Phrase abgelehnt, zeigt das System folgende Meldung an: "The name or phrase you've submitted is not permitted. Names and phrases may not be permitted if they belong to a business, organization, celebrity, public figure, school, team or other trademark, are religious or political in nature, or could be considered inappropriate or unsuitable for other reasons."

Bemerkenswert ist, dass das System nach Stand von Freitagnachmittag extreme und schädliche Formulierungen wie "Pedophile Pride" und "MAP Pride" (Minor-Attracted Person) zuließ. Einfache Umgehungstaktiken – etwa das Einfügen von Leerzeichen ("P e d o p h i l e") oder das Ersetzen von Buchstaben durch Zahlen ("Wh1t3 Pr1d3") – umgingen die Moderationsregeln ebenfalls.

Das Online-Anpassungstool von Coca-Cola erzeugt digitale Vorschauen in Echtzeit, obwohl die Website-Nutzungsbedingungen des Unternehmens vorsehen, dass übermittelte Texte vor dem physischen Druck und Versand einer Bestellung einer zusätzlichen Prüfung unterzogen werden können.

Die Ergebnisse verdeutlichen eine breitere Herausforderung für Konsumgütermarken, die nutzergenerierte Inhalte zulassen: Automatisierte Moderationssysteme haben Schwierigkeiten, Inhaltsrichtlinien über das gesamte Spektrum religiöser, politischer und sozialer Sprache hinweg konsistent anzuwenden, insbesondere wenn Akteure die Grenzen bewusst austesten. Ähnliche Lücken in der Moderation sind auf Social-Media-Plattformen und bei Personalisierungstools im E-Commerce aufgetreten, wo sich der Konflikt zwischen offener Meinungsäußerung und Markensicherheit in großem Maßstab nur schwer lösen lässt.

Ein Coca-Cola-Sprecher sagte gegenüber Fox News Digital: "We created the Share A Coke personalization tool for Coca-Cola fans to celebrate with one another and make connections by creating bottles and cans with special names or phrases on them. We are aware of a technical issue affecting the personalization preview tool and are working to address it."

"While we review and take corrective action, we have disabled the preview feature and paused new personalized product orders after becoming aware that it has been used to generate content previews using restricted terms that do not align with our guidelines," hieß es weiter. "All personalization orders are subject to moderation review after submission, and we have safeguards in place to prevent the approval and production of cans and bottles featuring religious, political, trademarked, inappropriate, or otherwise restricted terms and phrases. We will continue to enhance this tool based on consumer feedback."

Dies ist nicht das erste Mal, dass Coca-Colas automatisierte Anpassungsfilter öffentliche Kritik auf sich gezogen haben. Frühere Versionen der Online-Anpassungsfunktion der Marke standen 2021 wegen ähnlich inkonsistenter Sperrungen politischer, religiöser und sozialer Begriffe in der Kritik. Die erneute Debatte legt nahe, dass der zweistufige Ansatz – ein Echtzeit-Vorschau-Filter gefolgt von einer menschlichen Überprüfung vor der Produktion – zwar verhindern kann, dass schädliche Produkte versendet werden, Nutzer jedoch nicht daran hindert, Screenshots problematischer Vorschauen online zu erstellen und zu teilen, wo der Reputationsschaden typischerweise entsteht.