インターネット全体でAI生成コンテンツが広がり続けるなか、LinkedInは、同社プラットフォーム上に入り込んだ低品質なAI生成投稿をユーザーが識別し、報告しやすくする新しい機能を導入している。

木曜日、同社のプロフェッショナル向けネットワーキングサービスは、投稿のオプションメニューから利用できる「Seems like AI slop」ボタンを追加した。この機能により、ユーザーは低品質、またはAI生成への依存度が高すぎると考えるコンテンツを報告できる。職業上の信頼と本物のキャリア関連のやり取りに基盤を置くプラットフォームにとって、こうした動きは注目される。定型的なAI生成投稿は、時間の経過とともにユーザーの関与を損なう恐れがあるためだ。

「Slop is hard to define and the definition changes; this lets us tune our models and make better feeds」と、LinkedInの最高製品責任者 Hari Srinivasan は、この機能を発表した投稿で述べた。

LinkedInはまた、「enhance your post」ツールを削除し、ユーザーの声の調子を変えずに投稿を校正する機能へ置き換えている。同社は同時に、プロフィールとページの認証システムも強化している。

ボット検出についてSrinivasan氏は、LinkedInが現在、毎日数十万件の自動化されたslopコメント試行を識別して遮断していると述べた。さらに、同氏は「billions of other automation attempts (posting at scale, slop) in the last couple months alone」を防いだとも記した。

Srinivasan氏は、AIの利用が本質的に問題というわけではないと認め、多くの人が文章を整えるためにAIを使っていると指摘した。新しいツールは、ユーザー自身の投稿が「inauthentic」に聞こえる場合にも通知する。

「AI slop is a top priority for all of us. We really care about this」とSrinivasan氏は木曜日の投稿で述べた。

今回の対策は、2022年のChatGPT公開以降、オンライン上でAI生成コンテンツが急増している状況の中で導入された。AIテキスト検出ツール Pangram による最近の調査では、LinkedIn上の長文投稿の40%、短文投稿の30%が完全なAI生成としてフラグ付けされた。こうした検出ツールは、誤検出や新しいモデルによる回避など、精度面での課題が確認されており、その一因としてLinkedInのようなプラットフォームは、自動検出に加えてユーザーからの報告を補完的に活用している。

コメントを求められたLinkedInの広報担当者は、FortuneをSrinivasan氏の公開投稿に案内した。

AIスロップへの取り締まり強化

他の企業もAI生成コンテンツへの対策を始めている。

Snapchatは金曜日、アプリ全体のユーザー投稿を紹介するSpotlight機能で、完全にAI生成された動画を今後は推奨しないと発表した。この制限は、Snapchat独自のAIクリエイティブツールで編集または強化された動画には適用されないが、そうした動画には透明性を示す指標が付くと同社は付け加えた。

「As low-quality, repetitive, AI-generated content becomes increasingly common across the internet, we want Spotlight to remain a place where people can discover authentic creativity from real people」と同社は声明で述べた。

一方で、別の方向に進んでいる企業もある。Metaは、自社の生成メディアモデル群を開発することで、AI生成コンテンツを積極的に取り入れてきた。

今月初め、FacebookとInstagramの親会社である同社は Muse Image を発表し、これにより「including people, objects, clothing, styles, and environments」といったさまざまな参照情報に基づいてAI生成画像を作成できるとした。

Muse Image とあわせて、Metaは Muse Video のプレビューも公開し、ユーザーがAI生成動画を作成できるようにした。Muse Image で作成された画像には、「Content Seal」と呼ばれる不可視の透かしシステムが含まれ、切り抜き、リサイズ、スクリーンショット化された場合でも識別できる。Metaは近く、この「content seal」システムを Muse Video にも拡張する予定だと発表した。

今週のMetaの第2四半期決算説明会で、CEOの Mark Zuckerberg は Muse Image と Muse Video が「dramatically expand the universe of content that people can discover across our platform」と述べた。

「This is going to make our services a lot more useful and engaging for people」と彼は準備済み発言で語った。

このストーリーはもともと Fortune.com で掲載された。