LinkedIn推出"看起来像AI垃圾内容"举报功能 以应对低质量AI生成内容
要点速览
- •LinkedIn正在引入一款举报工具,非正式称为"看起来像AI垃圾内容"按钮,允许用户标记看似低质量、自动生成的内容。
- •研究表明,LinkedIn上超过40%的长篇公开帖子可能完全由AI生成,使其成为AI内容最密集的主要社交网络之一。
- •LinkedIn的功能依赖众包式用户判断,而非自动化AI检测工具——后者存在误报和在不同模型版本间准确率不一致等已知局限。
- •该举措针对垃圾信息式AI内容,同时继续支持负责任的AI辅助生产力,反映了区分合法AI辅助与过度自动化的复杂挑战。
- •欧盟《AI法案》包含对AI生成内容的透明度义务,预计将影响在欧洲运营的平台在未来几年如何处理标签和披露。

LinkedIn正在引入一项新的举报功能,旨在应对平台上日益增多的低质量AI生成内容。该工具被非正式地称为"看起来像AI垃圾内容"按钮,允许用户标记那些看似自动生成且缺乏实质价值的帖子。此举代表了LinkedIn为在生成式AI工具于社交媒体上日益普及的背景下维护专业讨论质量所做的最新努力。
该举措出台之际,正值人们越来越担忧职业社交平台正被大量重复、泛泛而谈的机器生成帖子所淹没,这些帖子为用户提供的实质内容甚少。
据科技界的报道——经Coin Bureau账号在X上分享的信息所佐证——LinkedIn的更新紧随一项研究之后,该研究表明该平台已成为AI内容最密集的主要社交网络之一。一些研究估计,LinkedIn上超过40%的长篇公开帖子可能完全由人工智能生成,这引发了关于真实性、专业信誉以及在线社交未来走向的紧迫问题。
虽然LinkedIn尚未公开确认这些报道中引用的每一项统计数据,但专门举报选项的推出表明,该公司承认围绕AI生成垃圾邮件和低质量自动内容的日益增长的担忧。
生成式AI重塑内容创作
生成式AI的快速发展从根本上改变了互联网上内容的生产方式。强大的AI写作工具现在使用户能够在几秒钟内生成文章、商业动态、营销帖子、简历、新闻通讯和专业评论。虽然这些技术显著提升了众多专业人士的生产力,但也降低了大量发布重复或低价值内容的门槛。
因此,许多社交媒体平台都经历了AI生成帖子的激增,这些帖子往往在语调、结构和措辞上高度相似。
长期以来一直将自身定位为全球领先职业社交平台的LinkedIn,已成为AI辅助写作的主要阵地。该平台由Microsoft所有,后者在与OpenAI的合作中投资了数十亿美元,将生成式AI整合到从Windows到生产力套件的各类产品中。LinkedIn自身也推出了AI驱动的功能,如自动个人资料摘要、AI辅助职位描述,以及利用贡献者洞察增强的AI协创文章。专业人士越来越多地使用这些工具来撰写求职申请、总结行业新闻、准备思想领导力文章、撰写公司公告和生成商业洞察。负责任地使用时,这些工具可以提高沟通效率,帮助用户更有效地组织复杂想法。
然而,随着一些用户在发布AI生成内容时几乎不进行编辑或验证,担忧不断加剧——他们的信息流充斥着泛泛的励志语录、公式化的职业建议和浅薄的商业评论。批评者认为,此类内容通过用主要旨在最大化互动量的自动文本取代真正的专业知识,侵蚀了专业讨论的价值。
定义"AI垃圾内容"
"AI垃圾内容"(AI slop)一词在科技圈中逐渐流行,用来描述那些以数量优先于原创性或有意义见解的低质量AI生成内容。与经过仔细审查的AI辅助写作不同,AI垃圾内容通常指在极少人工监督下产出的内容——往往重复熟悉的措辞、可预测的结构和广泛可获得的信息,而不引入新的观点。
LinkedIn的举报功能似乎正是针对这一类别的内容而设计的。平台预计不会阻止AI使用本身,而是集中精力减少那些损害用户体验的垃圾信息式帖子,同时继续支持负责任的AI辅助生产力。
行业分析师指出,随着AI工具日益融入日常工作场所沟通,这种区分变得愈发关键。许多组织现在积极鼓励员工使用AI来起草文档、总结会议、生成报告和改善书面沟通。因此,平台面临着一个复杂任务:区分负责任的AI辅助和损害内容质量的过度自动化。
真实性与透明度方面的更广泛行业趋势
据报道的功能也反映了科技行业围绕真实性的更广泛担忧。随着AI生成的文本、图像、音频和视频越来越难以与人工创作的内容区分开来,数字平台正在探索新的方法,以在保持开放参与的同时维护信任。
已有数家科技公司推出了透明度举措。Meta宣布将开始在Facebook和Instagram上对AI生成内容进行标注,YouTube则推出了针对已更改或合成媒体的披露要求。GPTZero和Turnitin的AI检测器等自动化AI检测工具已被教育工作者和出版商部署使用,但这些工具存在已知的局限性,包括误报以及在不同模型版本间不一致的准确率。相比之下,LinkedIn的举报功能利用众包式用户判断,而非单纯依赖自动化检测——这种方法规避了一些技术局限,但也引入了在一致性和潜在误用方面的自身挑战。
维护信誉对LinkedIn尤为重要,因为该平台服务于专业人士、招聘人员、雇主、高管、教育工作者、企业家和商业决策者。与以娱乐为导向的社交网络不同,LinkedIn的价值在很大程度上取决于成员之间交流的专业信息的质量和可靠性。招聘人员经常通过候选人发布的内容来评估候选人,而公司则利用该平台建立品牌声誉、吸引人才和确立思想领导力。如果用户日益质疑发布内容的真实性,该平台的核心宗旨可能会受到损害。
因此,举报功能可能不仅代表了遏制垃圾信息的努力,也是保护LinkedIn作为值得信赖的专业社区的长期信誉的举措。
内容审核的演变
这一发展也凸显了生成式AI时代内容审核的更广泛演变。传统审核系统主要针对虚假信息、骚扰、仇恨言论、版权侵权和非法内容。当今的审核挑战越来越多地涉及评估AI生成内容的原创性、有用性和真实性——这些内容可能在技术上符合平台政策,同时仍在降低整体内容质量。
平衡这些优先事项带来了显著的复杂性。AI本身并非天然有问题——许多专业人士合理使用AI工具来改善语法、翻译语言、整理研究、总结冗长文档、生成代码和加速业务工作流程。挑战在于防止自动化系统以几乎无助于公共讨论的重复内容淹没在线社区。
技术专家建议,未来的审核系统可能将强调行为信号,而非简单地检测AI生成文本。原创性、用户参与度、事实准确性、引用质量和有意义的互动等因素可能成为越来越重要的内容质量指标。
LinkedIn更广泛的AI投资
LinkedIn在内容创作之外的众多产品上都对人工智能进行了大量投资。该公司使用AI来改进职位推荐、个性化用户信息流、优化招聘工具、协助招聘经理,并通过LinkedIn Learning提升学习体验。这一记录表明,公司最新的举措不应被解读为对AI本身的反对。相反,它反映了一种鼓励更高质量实施AI工具同时遏制滥用的努力。
AI生成内容日益普遍也引起了研究数字通信未来的研究人员的关注。一些专家认为,如果在线平台充斥着缺乏个人经历或独特观点的重复内容,过度自动化最终可能降低用户参与度。另一些人则认为,AI最终将成为一种标准写作助手——类似于拼写检查或语法纠正工具——而人类创造力将仍然是高质量沟通背后的决定性因素。
展望未来
对于LinkedIn而言,随着数百万用户继续依赖该平台进行社交拓展、职业发展、招聘、商业合作和行业知识获取,维护有意义的专业讨论仍然至关重要。举报功能代表了在日益由AI定义的时代中保持这种平衡的又一步。
新系统是否能显著减少低质量AI生成帖子,仍有待观察。其有效性可能取决于用户参与度、审核准确性,以及LinkedIn区分真正有用的AI辅助写作和真正削弱平台价值的内容的能力。监管发展也可能影响其走向:欧盟《AI法案》包含对AI生成内容的透明度义务,预计将影响在欧洲运营的平台在未来几年如何处理标签和披露。
随着生成式AI继续重塑在线沟通,预计数字领域的各平台将引入额外的保障措施,旨在在支持负责任创新的同时保护信任。LinkedIn的举措说明了科技公司如何适应AI时代的核心挑战之一:在不允许自动化压倒真实人际互动的前提下,促进人工智能的高效使用。