Een onderzoek van Fox News Digital naar het platform voor gepersonaliseerde Coca-Cola-blikjes heeft inconsistenties aan het licht gebracht in het contentmoderatiesysteem van het bedrijf, naar aanleiding van een golf van kritiek op sociale media over welke aangepaste berichten het tool toestaat en blokkeert.

De personalisatiefunctie, waarmee gebruikers frasen van 18 tekens of minder op Coke-blikjes kunnen afdrukken, bleek mainstream religieuze uitingen zoals "Jesus is Lord" en "Allah is Lord" te blokkeren, terwijl frasen als "God is Dead," "Atheist Pride," "Shalom" en "Buddha Bless" werden toegestaan. Politieke leuzen waaronder "Make America Great" en alle rasspecifieke of identiteitsgerelateerde trotsfrasen — zoals "White Pride," "Black Pride" en "Black Lives Matter" — werden eveneens geblokkeerd. Daarentegen werden leuzen als "Defund the Police" en groepsnamen waaronder de extreemrechtse "Proud Boys" door het filter geaccepteerd.

Er dook ook een geopolitieke tegenstrijdigheid op: "Stand with Israel" werd toegestaan, terwijl "Free Palestine" werd geblokkeerd.

Wanneer een frase wordt afgewezen, toont het systeem de volgende melding: "The name or phrase you've submitted is not permitted. Names and phrases may not be permitted if they belong to a business, organization, celebrity, public figure, school, team or other trademark, are religious or political in nature, or could be considered inappropriate or unsuitable for other reasons."

Opvallend is dat extreme en schadelijke frasen zoals "Pedophile Pride" en "MAP Pride" (Minor-Attracted Person) per vrijdagmiddag door het systeem werden toegestaan. Basale trucages om het systeem te omzeilen — zoals het invoegen van spaties ("P e d o p h i l e") of het vervangen van letters door cijfers ("Wh1t3 Pr1d3") — omzeilden de moderatieregels eveneens.

Het online personalisatietool van Coca-Cola genereert realtime digitale voorbeelden, hoewel de gebruiksvoorwaarden van de site van het bedrijf stellen dat ingediende tekst mogelijk aanvullende controle vereist voordat een bestelling fysiek wordt afgedrukt en verzonden.

De bevindingen onderstrepen een bredere uitdaging waarmee consumentenmerken te maken krijgen die door gebruikers gegenereerde content uitnodigen: geautomatiseerde moderatiesystemen hebben moeite om contentbeleid consistent toe te passen over het volledige spectrum van religieuze, politieke en sociale taal, zeker wanneer kwaadwillenden opzettelijk grenzen verkennen. Vergelijkbare hiaten in moderatie zijn ook aan het licht gekomen op sociale platforms en bij personalisatietools in e-commerce, waar de spanning tussen vrije meningsuiting en merkkeiligheid moeilijk op te lossen blijft op grote schaal.

Een woordvoerder van Coca-Cola zei tegen Fox News Digital: "We created the Share A Coke personalization tool for Coca-Cola fans to celebrate with one another and make connections by creating bottles and cans with special names or phrases on them. We are aware of a technical issue affecting the personalization preview tool and are working to address it."

"While we review and take corrective action, we have disabled the preview feature and paused new personalized product orders after becoming aware that it has been used to generate content previews using restricted terms that do not align with our guidelines," vervolgde de woordvoerder. "All personalization orders are subject to moderation review after submission, and we have safeguards in place to prevent the approval and production of cans and bottles featuring religious, political, trademarked, inappropriate, or otherwise restricted terms and phrases. We will continue to enhance this tool based on consumer feedback."

Dit is niet de eerste keer dat de geautomatiseerde personalisatiefilters van Coca-Cola onder publieke scrutinie zijn gekomen. In 2021 kregen eerdere versies van de online personalisatie-engine van het merk vergelijkbare kritiek over inconsistente blokkades van politieke, religieuze en maatschappelijke bewegingstermen. De terugkeer ervan suggereert dat de tweelagen-aanpak — een realtime previewfilter gevolgd door een menselijke controlemoment vóór de productie — weliswaar het verzenden van schadelijke producten kan voorkomen, maar niet verhindert dat gebruikers screenshots genereren en delen van aanstootgevende previews online, wat typisch de plek is waar de reputatieschade ontstaat.