По мере того как ИИ-сгенерированный контент продолжает распространяться по интернету, LinkedIn внедряет новые инструменты, которые помогут пользователям выявлять и помечать низкокачественные публикации, созданные с использованием ИИ на его платформе.

В четверг профессиональная сеть представила кнопку "Похоже на AI slop", доступную через меню опций публикации. Функция позволяет пользователям сообщать о контенте, который, по их мнению, является низкокачественным или чрезмерно зависит от генерации ИИ. Это особенно важно для платформы, чья основная ценность опирается на профессиональное доверие и подлинное взаимодействие, связанное с карьерой, где шаблонные ИИ-публикации со временем могут ослаблять вовлеченность пользователей.

"Slop трудно определить, и определение меняется; это позволяет нам настраивать наши модели и делать ленты лучше", — сказал главный директор по продуктам LinkedIn Hari Srinivasan в публикации, объявляющей о функции.

LinkedIn также убирает инструмент "улучшить вашу публикацию", заменяя его функцией проверки текста, которая призвана исправлять публикации без изменения голоса автора. Одновременно компания усиливает системы верификации профилей и страниц.

В части обнаружения ботов Srinivasan сообщил, что LinkedIn теперь ежедневно выявляет и блокирует сотни тысяч попыток автоматизированных "slop"-комментариев. По его словам, платформа также предотвратила "миллиарды других попыток автоматизации (массовые публикации, slop) только за последние пару месяцев".

Srinivasan признал, что использование ИИ само по себе не является проблемой, отметив, что многие люди используют его для уточнения своих мыслей и текста. Новый инструмент также будет сообщать пользователям, когда их собственные публикации звучат "неаутентично".

"AI slop — главный приоритет для всех нас. Мы действительно переживаем об этом", — сказал Srinivasan.

Новые меры появляются на фоне роста объема ИИ-материалов в интернете после выхода ChatGPT в 2022 году. Недавнее исследование инструмента для обнаружения ИИ-текста Pangram показало, что 40% длинных публикаций и 30% коротких публикаций в LinkedIn были помечены как полностью сгенерированные ИИ. Такие инструменты обнаружения сталкивались с задокументированными проблемами точности, включая ложные срабатывания и обход со стороны более новых моделей, и именно поэтому платформы вроде LinkedIn дополняют автоматическое обнаружение краудсорсинговыми жалобами пользователей.

На запрос о комментарии представитель LinkedIn направил Fortune к публичной публикации Srinivasan.

Более широкий ответ отрасли на ИИ-контент

Другие платформы также предпринимают шаги по борьбе с ИИ-материалами, и их подходы заметно расходятся. В пятницу Snapchat объявил, что больше не будет рекомендовать полностью ИИ-сгенерированные видео через свою функцию Spotlight, которая выводит контент пользователей со всего приложения. Ограничение не будет применяться к видео, отредактированным или улучшенным с помощью собственных ИИ-креативных инструментов Snapchat, хотя такие видео будут помечаться индикаторами прозрачности.

"Поскольку низкокачественный, повторяющийся ИИ-сгенерированный контент становится все более распространенным в интернете, мы хотим, чтобы Spotlight оставался местом, где люди могут открывать подлинное творчество реальных людей", — заявила компания.

Meta, напротив, сделала ставку на ИИ-сгенерированный контент, разрабатывая собственное семейство моделей генеративных медиа. Ранее в этом месяце материнская компания Facebook и Instagram запустила Muse Image, которая создает ИИ-сгенерированные изображения на основе различных референсов, "включая людей, объекты, одежду, стили и окружение", говорится в сообщении компании.

Вместе с Muse Image Meta также представила предварительную версию Muse Video, позволяющую пользователям создавать ИИ-сгенерированное видео. Изображения, созданные с помощью Muse Image, включают невидимую систему водяных знаков под названием "Content Seal", которая позволяет идентифицировать их даже после кадрирования, изменения размера или снимка экрана. Компания планирует в ближайшее время распространить систему "content seal" на Muse Video, говорится в сообщении.

Во время отчета Meta о доходах за второй квартал на этой неделе генеральный директор Mark Zuckerberg заявил, что Muse Image и Muse Video "значительно расширят вселенную контента, который люди смогут находить на нашей платформе".

"Это сделает наши сервисы гораздо более полезными и интересными для людей", — сказал он в подготовленном выступлении.

Этот материал впервые был опубликован на Fortune.com