随着AI生成内容继续在互联网上扩散，LinkedIn正推出新工具，帮助用户识别并标记其平台上的低质量AI生成帖子。

周四，这家职业社交平台推出了一个“看起来像AI垃圾内容”按钮，可通过帖子选项菜单访问。该功能允许用户举报他们认为质量低下或过度依赖AI生成的内容。对于一个核心价值依赖于职业信任和真实职业互动的平台而言，这一举措尤为值得关注，因为公式化的AI生成帖子可能会随着时间推移削弱用户参与度。

LinkedIn首席产品官Hari Srinivasan在宣布该功能的帖子中表示：“Slop很难定义，而且定义会变化；这让我们能够调整模型，做出更好的信息流。”

LinkedIn还将移除其“增强你的帖子”工具，改为提供一种不会改变用户写作风格的校对功能。与此同时，公司也在加强个人资料和主页验证系统。

在机器人检测方面，Srinivasan表示，LinkedIn现在每天都会识别并阻止数十万次自动化垃圾评论尝试。平台还在“过去几个月里仅凭其他自动化尝试（大规模发布、slop）就阻止了数十亿次”，他写道。

Srinivasan承认，使用AI并不一定有问题，并指出许多人会用AI来润色想法。新工具还会在用户自己的帖子听起来“缺乏真实性”时提醒他们。

Srinivasan周四在帖子中说：“AI slop是我们所有人的首要任务。我们非常重视这件事。”

此次新措施出台之际，ChatGPT于2022年发布后，AI撰写内容在网上迅速增加。近期，AI文本检测工具Pangram的一项研究发现，LinkedIn上40%的长篇帖子和30%的短篇帖子被标记为完全由AI生成。此类检测工具在准确性方面面临过已记录的挑战，包括误报以及被新模型规避，这也在一定程度上解释了为什么像LinkedIn这样的平台会将自动化检测与众包用户举报结合起来。

当被要求置评时，LinkedIn发言人将Fortune指向了Srinivasan的公开帖子。

打击AI slop

其他公司也开始打击AI生成内容。

Snapchat周五宣布，其Spotlight功能将不再推荐完全由AI生成的视频。Spotlight会在整个应用中展示用户发布的视频。公司补充说，这一新限制不适用于使用Snapchat自身AI创意工具编辑或增强过的视频，不过这些视频将包含透明度标识。

Snapchat在一份声明中表示：“随着低质量、重复性的AI生成内容在互联网上日益普遍，我们希望Spotlight继续成为人们发现来自真实人物的真实创意的地方。”

相比之下，Meta则通过开发自己的生成式媒体模型家族，拥抱AI生成内容。

本月早些时候，这家Facebook和Instagram母公司推出了Muse Image，可基于多种参考内容生成AI图像，“包括人物、物体、服装、风格和环境”，公司在一份公告中表示。

除Muse Image外，Meta还发布了Muse Video的预览版，允许用户创建AI生成视频。由Muse Image生成的图像包含一种名为“Content Seal”的隐形水印系统，即使图像被裁剪、调整大小或截图也可识别。公司表示，计划很快将其“content seal”系统扩展到Muse Video。

在本周Meta的第二季度财报电话会议上，首席执行官Mark Zuckerberg表示，Muse Image和Muse Video将“显著扩展人们可以在我们平台上发现的内容范围”。

他说：“这将让我们的服务对人们来说更有用，也更有吸引力。”

本文最初刊登于Fortune.com