Anthropic hat angekündigt, dass es damit beginnen wird, unsichtbare Wasserzeichen in Texte einzubetten, die von seinen Claude-KI-Modellen erzeugt werden, als Reaktion auf neue Transparenzanforderungen des EU AI Act – der weltweit ersten umfassenden KI-Regulierung. Die Wasserzeichen sollen es erleichtern, KI-generierte Inhalte zu identifizieren. Das System wird jedoch auch Texte markieren, die ursprünglich von Menschen verfasst und anschließend von Claude bearbeitet oder verarbeitet wurden – ein Anwendungsbereich, der die Bestimmung, ob Material tatsächlich von einer KI erstellt wurde, erschweren könnte.

Das in San Francisco ansässige KI-Unternehmen erklärte am Dienstag, dass Claude-Modelle, die ab dem 2. August in der EU auf den Markt gebracht werden, ab Veröffentlichung maschinenlesbare Wasserzeichen enthalten werden. Anthropic arbeitet zudem daran, die Technologie auf ältere Modelle auszuweiten.

Obwohl die Wasserzeichen als Reaktion auf den EU AI Act eingeführt wurden, bestätigte Anthropic, dass die Markierungen weltweit überall dort gelten werden, wo unterstützte Claude-Modelle verfügbar sind – einschließlich Claude, Claude Code und der Entwicklerplattform.

Von den Modellen generierter Text wird ein eingebettetes Wasserzeichen tragen, das laut Anthropic beim Kopieren und Einfügen erhalten bleiben und auch eine gewisse Bearbeitung überdauern kann. Bilder und andere unterstützte Dateiformate werden stattdessen signierte Metadaten enthalten, die anzeigen, dass sie von Claude verarbeitet wurden.

Anthropic plant die Veröffentlichung von Tools, mit denen Nutzer und Drittanbieter die Wasserzeichen erkennen können, obwohl die technischen Spezifikationen noch nicht veröffentlicht wurden.

Die Ankündigung erfolgt zu einem Zeitpunkt zunehmenden Drucks von Seiten der Aufsichtsbehörden und Verlage auf KI-Unternehmen, synthetische Inhalte besser identifizierbar zu machen, nachdem das Internet von einer Flut maschinell generierter Materialien überschwemmt wurde. Nach den Transparenzbestimmungen des EU AI Act stehen alle großen KI-Anbieter, die im Bloc tätig sind – darunter OpenAI, Google und Meta – vor vergleichbaren Verpflichtungen zur Kennzeichnung KI-generierter Inhalte, und mehrere Rechtsgebiete außerhalb der EU, darunter das Vereinigte Königreich und einzelne US-Bundesstaaten, entwickeln ihre eigenen Anforderungen an die KI-Kennzeichnung. City AM hat zuvor über die Verbreitung KI-generierter „Slop“-Inhalte in Nachrichtenredaktionen berichtet, darunter Meinungsbilder und Pitches, die irreführend als Werke von Führungskräften und anderen Beiträgern dargestellt wurden.

Auch von Menschen verfasste Texte können markiert werden

Anthropic räumte ein, dass der Nachweis eines seiner Wasserzeichen nicht zwangsläufig bedeuten würde, dass Claude den ursprünglichen Inhalt verfasst hat. Ein Nutzer könnte einen Artikel eigenständig schreiben und Claude anschließend bitten, ihn zu korrigieren, zu übersetzen oder zu bearbeiten – und der resultierende Text könnte dennoch Claudes Wasserzeichen tragen, selbst wenn der zugrunde liegende Inhalt und die Ideen vom menschlichen Autor stammen.

Artikel 50 des EU AI Act bestimmt, dass Kennzeichnungspflichten nicht gelten, wenn ein KI-System „eine unterstützende Funktion bei der Standardbearbeitung“ übernimmt oder das Material oder dessen Bedeutung nicht wesentlich verändert. Anthropic hat den freiwilligen Verhaltenskodex der EU unterzeichnet, der darlegt, wie Unternehmen den Transparenzverpflichtungen nachkommen können. Die Entscheidung von Anthropic, Wasserzeichen auf die gesamte unterstützte Claude-Ausgabe anzuwenden, bedeutet jedoch, dass das System auch Material erfassen könnte, das über das hinausgeht, was die Gesetzgebung streng vorschreibt.

Das Unternehmen warnte zudem davor, die Wasserzeichen als endgültigen Beweis für KI-Autorenschaft zu betrachten. Starke Bearbeitung oder Paraphrasierung kann ein Wasserzeichen unerkennbar machen, und kurze Textpassagen enthalten möglicherweise zu wenig Text, um ein zuverlässiges Signal zu erzeugen. Metadaten, die an Bilder und andere Dateien angehängt sind, können ebenfalls verloren gehen, wenn Dateien konvertiert oder als Screenshot erfasst werden.

Erkennungstechnologie noch nicht perfekt

Alex Cui, Chief Technology Officer bei dem KI-Erkennungsunternehmen GPTZero, erklärte in einem Beitrag auf X, dass Text-Wasserzeichen im Allgemeinen dadurch funktioniert, dass die Wahrscheinlichkeit der Wortauswahl innerhalb eines Modells subtil verändert wird, wodurch ein statistisches Muster entsteht, das später erkannt werden kann.

Cui stellte jedoch fest, dass die Technologie noch unvollkommen sei, und bemerkte, dass Wasserzeichen möglicherweise Schwierigkeiten haben könnten, „intensives Paraphrasieren“ zu überstehen. Er warnte zudem, dass die öffentliche Verbreitung von Erkennungstools es Nutzern erleichtern könnte, herauszufinden, wie man sie umgeht.

„Die kostenlosen Paraphrasier-Tools, die ich ausprobiert habe, haben Googles DeepMind-SynthId schnell umgangen, was es wert ist, erwähnt zu werden“, schrieb er.

Eine kürzlich durchgeführte Studie mit 1.682 Erwachsenen, veröffentlicht im Fachjournal Judgment and Decision Making, ergab, dass die Teilnehmer Geschichten, die von ChatGPT generiert wurden, als fesselnder und qualitativ hochwertiger einschätzten als von Menschen verfasste Geschichten. Die Befragten gaben jedoch höheren Bewertungen für Geschichten ab, von denen sie glaubten, dass sie von Menschen geschrieben worden waren. In zwei weiteren Experimenten fanden die Forscher keine allgemeinen Hinweise darauf, dass die Teilnehmer zuverlässig zwischen von Menschen verfassten und KI-geschriebenen Geschichten unterscheiden konnten.

Anthropic erklärte, dass sein Wasserzeichen die Ausgabe von Claude nicht sichtbar verändern und weder deren Bedeutung noch deren Lesbarkeit beeinträchtigen werde. Das Unternehmen räumte ein, dass das System lediglich ein Signal und keinen endgültigen Beweis für den Ursprung eines Inhalts liefert, sodass Unternehmen und Verlage selbst entscheiden müssen, welches Gewicht sie den neuen Markierungen beimessen.