Une enquête de Fox News Digital sur la plateforme de canettes personnalisées de Coca-Cola a révélé des incohérences dans le système de modération des contenus de l’entreprise, après une vague de réactions négatives sur les réseaux sociaux concernant les messages personnalisés que l’outil autorise ou bloque.

La fonctionnalité de personnalisation, qui permet aux utilisateurs d’imprimer des phrases de 18 caractères ou moins sur des canettes Coke, a été observée en train de bloquer des expressions religieuses grand public telles que « Jesus is Lord » et « Allah is Lord », tout en autorisant des phrases comme « God is Dead », « Atheist Pride », « Shalom » et « Buddha Bless ». Des slogans politiques, dont « Make America Great », ainsi que toutes les formules de fierté liées à la race ou à l’identité — comme « White Pride », « Black Pride » et « Black Lives Matter » — ont également été bloqués. En revanche, des slogans comme « Defund the Police » et des noms de groupes, y compris le groupe d’extrême droite « Proud Boys », ont été acceptés par le filtre.

Une disparité géopolitique est également apparue : « Stand with Israel » était autorisé, tandis que « Free Palestine » était bloqué.

Lorsqu’une phrase est refusée, le système affiche le message suivant : « The name or phrase you've submitted is not permitted. Names and phrases may not be permitted if they belong to a business, organization, celebrity, public figure, school, team or other trademark, are religious or political in nature, or could be considered inappropriate or unsuitable for other reasons. »

Notamment, à la fin de l’après-midi de vendredi, des phrases extrêmes et préjudiciables telles que « Pedophile Pride » et « MAP Pride » (Minor-Attracted Person) étaient autorisées par le système. Des tactiques de contournement simples — comme l’ajout d’espaces (« P e d o p h i l e ») ou le remplacement de lettres par des chiffres (« Wh1t3 Pr1d3 ») — ont également permis de contourner les règles de modération.

L’outil de personnalisation en ligne de Coca-Cola génère des aperçus numériques en temps réel, bien que les conditions du site précisent que le texte soumis peut nécessiter un examen supplémentaire avant qu’une commande ne soit effectivement imprimée et expédiée.

Les résultats soulignent un défi plus large auquel sont confrontées les marques de consommation qui acceptent du contenu généré par les utilisateurs : les systèmes de modération automatisés peinent à appliquer de manière cohérente les politiques de contenu sur l’ensemble du spectre des contenus religieux, politiques et sociaux, en particulier lorsque des acteurs malveillants testent délibérément les limites. Des lacunes similaires en matière de modération ont été observées sur des plateformes sociales et des outils de personnalisation e-commerce, où la tension entre liberté d’expression et protection de la marque reste difficile à résoudre à grande échelle.

Un porte-parole de Coca-Cola a déclaré à Fox News Digital : « We created the Share A Coke personalization tool for Coca-Cola fans to celebrate with one another and make connections by creating bottles and cans with special names or phrases on them. We are aware of a technical issue affecting the personalization preview tool and are working to address it. »

« While we review and take corrective action, we have disabled the preview feature and paused new personalized product orders after becoming aware that it has been used to generate content previews using restricted terms that do not align with our guidelines, » a poursuivi le porte-parole. « All personalization orders are subject to moderation review after submission, and we have safeguards in place to prevent the approval and production of cans and bottles featuring religious, political, trademarked, inappropriate, or otherwise restricted terms and phrases. We will continue to enhance this tool based on consumer feedback. »

Ce n’est pas la première fois que les filtres de personnalisation automatisés de Coca-Cola font l’objet d’un examen public. En 2021, des versions antérieures du moteur de personnalisation en ligne de la marque avaient suscité des critiques similaires en raison d’un blocage incohérent de termes politiques, religieux et liés à des mouvements sociaux. La répétition de ces problèmes suggère que l’approche à deux niveaux — un filtre d’aperçu en temps réel suivi d’un contrôle humain avant production — peut empêcher l’expédition de produits préjudiciables, mais n’empêche pas les utilisateurs de générer et de partager en ligne des captures d’écran d’aperçus problématiques, là où les atteintes à la réputation se produisent généralement.