Da sich KI-generierte Inhalte im Internet weiter ausbreiten, führt LinkedIn neue Werkzeuge ein, die Nutzern helfen sollen, minderwertige, KI-erstellte Beiträge auf der Plattform zu erkennen und zu markieren.

Am Donnerstag führte das professionelle Netzwerk einen „Seems like AI slop"-Button ein, der über das Optionsmenü eines Beitrags erreichbar ist. Die Funktion ermöglicht es Nutzern, Inhalte zu melden, die sie als minderwertig oder zu stark auf KI-Generierung angewiesen erachten. Der Schritt ist bemerkenswert für eine Plattform, deren Kernversprechen auf beruflichem Vertrauen und authentischer, karrierebezogener Interaktion beruht, wo schematische KI-generierte Beiträge das Nutzerengagement langfristig zu untergraben drohen.

„Slop ist schwer zu definieren, und die Definition ändert sich; das ermöglicht es uns, unsere Modelle abzustimmen und bessere Feeds zu erstellen", sagte LinkedIn Chief Product Officer Hari Srinivasan in einem Beitrag zur Ankündigung der Funktion.

LinkedIn entfernt außerdem sein „enhance your post"-Tool und ersetzt es durch eine Korrekturfunktion, die Beiträge verbessert, ohne die persönliche Stimme des Nutzers zu verändern. Gleichzeitig stärkt das Unternehmen die Verifizierungssysteme für Profile und Seiten.

Im Bereich der Bot-Erkennung sagte Srinivasan, dass LinkedIn nun täglich Hunderttausende automatisierter Slop-Kommentarversuche identifiziert und blockiert. Die Plattform habe zudem „in den letzten paar Monaten allein Milliarden weiterer Automatisierungsversuche (Massenpostings, Slop) verhindert", schrieb er.

Srinivasan räumte ein, dass die Nutzung von KI nicht grundsätzlich problematisch sei, und stellte fest, dass viele Menschen sie zur Verfeinerung ihres Schreibens nutzen. Das neue Tool wird Nutzer zudem warnen, wenn ihre eigenen Beiträge „inauthentisch" klingen.

„AI slop ist für uns alle eine oberste Priorität. Das ist uns wirklich wichtig", sagte Srinivasan.

Die neuen Maßnahmen kommen inmitten einer Flut von KI-geschriebenen Inhalten im Internet, die nach der Veröffentlichung von ChatGPT im Jahr 2022 einsetzte. Eine aktuelle Studie des KI-Texterkennungstools Pangram ergab, dass 40 % der Langbeiträge und 30 % der Kurzbeiträge auf LinkedIn als vollständig KI-generiert markiert wurden. Solche Erkennungstools stehen vor dokumentierten Genauigkeitsproblemen, einschließlich falsch-positiver Ergebnisse und Umgehung durch neuere Modelle, was teilweise der Grund dafür ist, dass Plattformen wie LinkedIn die automatisierte Erkennung durch nutzergestützte Meldungen ergänzen.

Auf Anfrage verwies ein LinkedIn-Sprecher Fortune auf Srinivasans öffentlichen Beitrag.

Breitere Branchenreaktion auf KI-Inhalte

Auch andere Plattformen ergreifen Maßnahmen gegen KI-generiertes Material, und ihre Reaktionen weichen stark voneinander ab. Snapchat kündigte am Freitag an, dass es keine vollständig KI-generierten Videos mehr über seine Spotlight-Funktion empfehlen wird, die Inhalte von Nutzern in der gesamten App sichtbar macht. Die Einschränkung gilt nicht für Videos, die mit Snapchats eigenen KI-Kreativwerkzeugen bearbeitet oder verbessert wurden, obwohl diese Videos Transparenzkennzeichnungen tragen werden.

„Da minderwertige, repetitive, KI-generierte Inhalte im Internet immer weiter verbreitet werden, wollen wir, dass Spotlight ein Ort bleibt, an dem Menschen authentische Kreativität echter Menschen entdecken können", sagte Snapchat in einer Erklärung.

Meta hingegen hat sich KI-generierten Inhalten zugewandt und eine eigene Familie generativer Medienmodelle entwickelt. Anfang dieses Monats startete das Mutterunternehmen von Facebook und Instagram Muse Image, das KI-generierte Bilder auf Basis von Referenzen erstellt – „einschließlich Personen, Objekten, Kleidung, Stilen und Umgebungen".

Neben Muse Image veröffentlichte Meta eine Vorschau von Muse Video, mit dem Nutzer KI-generierte Videos erstellen können. Mit Muse Image erstellte Bilder enthalten ein unsichtbares Wasserzeichensystem namens „Content Seal", das sie selbst dann identifizieren kann, wenn sie zugeschnitten, in der Größe verändert oder als Screenshot erfasst werden. Meta plant, Content Seal in naher Zukunft auf Muse Video auszuweiten.

Während Metas Telefonkonferenz zum zweiten Quartal sagte CEO Mark Zuckerberg, Muse Image und Muse Video würden „das Universum der Inhalte, die Menschen auf unserer Plattform entdecken können, dramatisch erweitern".

„Dies wird unsere Dienste für die Menschen wesentlich nützlicher und ansprechender machen", sagte Zuckerberg in seinen vorbereiteten Bemerkungen.

Die unterschiedlichen Ansätze kommen zu einer Zeit, in der auch Regulierungsbehörden Stellung beziehen. Der AI Act der Europäischen Union, der 2025 mit einer schrittweisen Einführung begann, enthält Transparenzverpflichtungen, die Anbieter von KI-Systemen zur Kennzeichnung bestimmter KI-generierter Inhalte verpflichten, und verleiht den Entscheidungen der Plattformen in Bezug auf Erkennung, Kennzeichnung und Wasserzeichen eine zusätzliche Compliance-Dimension.

Diese Geschichte war ursprünglich auf Fortune.com erschienen.