Un'indagine di Fox News Digital sulla piattaforma di lattine personalizzate di Coca-Cola ha rivelato incoerenze nel sistema di moderazione dei contenuti dell'azienda, a seguito di una ondata di reazioni sui social media riguardo ai messaggi personalizzati che lo strumento consente e blocca.

La funzione di personalizzazione, che consente agli utenti di stampare sulle lattine Coca-Cola frasi di 18 caratteri o meno, ha bloccato espressioni religiose tradizionali come "Jesus is Lord" e "Allah is Lord", consentendo però frasi come "God is Dead", "Atheist Pride", "Shalom" e "Buddha Bless". Anche gli slogan politici tra cui "Make America Great" e tutte le frasi legate all'orgoglio razziale o di identità — come "White Pride", "Black Pride" e "Black Lives Matter" — sono stati bloccati. Tuttavia, slogan come "Defund the Police" e nomi di gruppi tra cui i "Proud Boys" di estrema destra sono stati accettati dal filtro.

È emersa anche una disparità di natura geopolitica: "Stand with Israel" è stata consentita, mentre "Free Palestine" è stata bloccata.

Quando una frase viene respinta, il sistema mostra il seguente messaggio: "The name or phrase you've submitted is not permitted. Names and phrases may not be permitted if they belong to a business, organization, celebrity, public figure, school, team or other trademark, are religious or political in nature, or could be considered inappropriate or unsuitable for other reasons."

In particolare, a partire dal venerdì pomeriggio, frasi estreme e dannose come "Pedophile Pride" e "MAP Pride" (Minor-Attracted Person) erano consentite dal sistema. Anche semplici espedienti di aggiramento — come l'inserimento di spazi ("P e d o p h i l e") o la sostituzione di lettere con numeri ("Wh1t3 Pr1d3") — hanno superato le regole di moderazione.

Lo strumento di personalizzazione online di Coca-Cola genera anteprime digitali in tempo reale, sebbene i termini del sito dell'azienda indichino che il testo inviato potrebbe richiedere una revisione aggiuntiva prima che un ordine venga fisicamente stampato e spedito.

I risultati sottolineano una sfida più ampia per i marchi di consumo che accettano contenuti generati dagli utenti: i sistemi di moderazione automatica faticano ad applicare in modo coerente le politiche sui contenuti nell'intero spettro del linguaggio religioso, politico e sociale, in particolare quando utenti malevoli mettono deliberatamente alla prova i confini del sistema. Simili lacune di moderazione sono emerse su piattaforme social e strumenti di personalizzazione del commercio elettronico, dove la tensione tra libertà di espressione e sicurezza del marchio rimane difficile da risolvere su larga scala.

Un portavoce di Coca-Cola ha dichiarato a Fox News Digital: "We created the Share A Coke personalization tool for Coca-Cola fans to celebrate with one another and make connections by creating bottles and cans with special names or phrases on them. We are aware of a technical issue affecting the personalization preview tool and are working to address it."

"While we review and take corrective action, we have disabled the preview feature and paused new personalized product orders after becoming aware that it has been used to generate content previews using restricted terms that do not align with our guidelines," ha proseguito il portavoce. "All personalization orders are subject to moderation review after submission, and we have safeguards in place to prevent the approval and production of cans and bottles featuring religious, political, trademarked, inappropriate, or otherwise restricted terms and phrases. We will continue to enhance this tool based on consumer feedback."

Non è la prima volta che i filtri automatici di personalizzazione di Coca-Cola sono oggetto di pubblico scrutinio. Nel 2021, versioni precedenti del motore di personalizzazione online del marchio avevano attirato critiche simili per il blocco incoerente di termini politici, religiosi e legati a movimenti sociali. La recidenza suggerisce che l'approccio a due livelli — un filtro di anteprima in tempo reale seguito da un controllo di revisione umana prima della produzione — può impedire la spedizione di prodotti dannosi, ma non impedisce agli utenti di generare e condividere online screenshot di anteprime discutibili, che è dove si verifica tipicamente il danno reputazionale.