新闻股票可口可乐个性化定制罐过滤器因内容审核不一致而受到审查

可口可乐个性化定制罐过滤器因内容审核不一致而受到审查

作者: Fox Business Markets·

要点速览

  • 福克斯新闻数字版的测试发现,可口可乐的定制工具屏蔽了"Jesus is Lord"和"Allah is Lord"等主流宗教短语,却允许"God is Dead"和"Atheist Pride"等表达通过。
  • 该平台在地缘政治方面表现出不一致性,允许"Stand with Israel"但屏蔽"Free Palestine",同时还允许"Proud Boys"等极端组织名称。
  • 包括"Pedophile Pride"和"MAP Pride"在内的极端有害短语被系统接受,使用空格或数字替换等基本变通方法也能轻易绕过审核过滤器。
  • 可口可乐在发现受限术语被用于生成不当内容预览后,禁用了预览功能并暂停了所有新的个性化产品订单。
  • 这是可口可乐定制过滤器第二次引发公众批评,此前在2021年也曾出现类似的政治、宗教和社会运动术语屏蔽不一致的投诉。
可口可乐个性化定制罐过滤器因内容审核不一致而受到审查

福克斯新闻数字版对可口可乐个性化定制罐平台的一项调查揭示了该公司内容审核系统中存在的不一致性问题。此前,社交媒体上就该工具允许和屏蔽哪些定制信息引发了大量批评。

该定制功能允许用户在可口可乐罐上打印不超过18个字符的短语。调查发现,该功能屏蔽了"Jesus is Lord"和"Allah is Lord"等主流宗教表达,却允许"God is Dead"、"Atheist Pride"、"Shalom"和"Buddha Bless"等短语通过。政治口号方面,"Make America Great"以及所有种族或身份自豪感短语——如"White Pride"、"Black Pride"和"Black Lives Matter"——均被屏蔽。然而,"Defund the Police"等口号及极右翼团体"Proud Boys"等名称却被过滤器接受。

地缘政治方面也出现了差异:"Stand with Israel"被允许,而"Free Palestine"则被屏蔽。

当某个短语被拒绝时,系统会显示以下提示信息:"The name or phrase you've submitted is not permitted. Names and phrases may not be permitted if they belong to a business, organization, celebrity, public figure, school, team or other trademark, are religious or political in nature, or could be considered inappropriate or unsuitable for other reasons."

值得注意的是,截至周五下午,"Pedophile Pride"和"MAP Pride"(Minor-Attracted Person,即对未成年人有吸引力者)等极端有害短语也被系统允许通过。一些基本的变通手段——如插入空格("P e d o p h i l e")或用数字替换字母("Wh1t3 Pr1d3")——同样绕过了审核规则。

可口可乐的在线定制工具可生成实时数字预览,但该公司网站条款声明,提交的文本在订单实际打印和发货前可能需要额外审核。

这些发现凸显了邀请用户生成内容的消费品牌所面临的更广泛挑战:自动审核系统难以在宗教、政治和社会用语的完整频谱中一致地执行内容政策,尤其是当恶意行为者故意试探边界时。类似的审核漏洞也曾在社交平台和电商个性化工具中出现,言论自由与品牌安全之间的张力在大规模运营中仍难以解决。

可口可乐发言人向福克斯新闻数字版表示:"We created the Share A Coke personalization tool for Coca-Cola fans to celebrate with one another and make connections by creating bottles and cans with special names or phrases on them. We are aware of a technical issue affecting the personalization preview tool and are working to address it."

"While we review and take corrective action, we have disabled the preview feature and paused new personalized product orders after becoming aware that it has been used to generate content previews using restricted terms that do not align with our guidelines,"该发言人继续说道。"All personalization orders are subject to moderation review after submission, and we have safeguards in place to prevent the approval and production of cans and bottles featuring religious, political, trademarked, inappropriate, or otherwise restricted terms and phrases. We will continue to enhance this tool based on consumer feedback."

这并非可口可乐的自动定制过滤器首次面临公众审查。2021年,该品牌早期版本的在线定制引擎就曾因在政治、宗教和社会运动术语方面屏蔽不一致而遭到类似批评。此次问题的再次出现表明,双层审核机制——即实时预览过滤器加上生产前的人工审核检查点——或许能防止有害产品被发货,但并不能阻止用户生成并在线分享不当预览的截图,而这正是品牌声誉受损的关键环节。