Anthropic hat begonnen, unsichtbare Wasserzeichen in Texte einzubetten, die von seinen neueren Claude-Modellen erzeugt werden. Das Unternehmen wendet diese Maßnahme weltweit an, während es sich auf die Einhaltung des KI-Gesetzes der Europäischen Union vorbereitet, das Anbieter von KI-Systemen zur Erzeugung synthetischer Inhalte dazu verpflichtet, ihre Ausgaben erkennbar zu machen.

Claude-Modelle, die ab dem 2. August veröffentlicht werden, tragen ein unauffälliges Signal auf Modellebene. Laut Anthropic verändert das Wasserzeichen weder die Bedeutung noch die Lesbarkeit des Textes und bleibt erhalten, wenn Inhalte kopiert und eingefügt werden. Das Unternehmen gab an, dass das Zeichen „unter Umständen auch nach Bearbeitung erhalten bleiben kann." Anthropic hat den Verhaltenskodex der EU für KI-generierte Inhalte unterzeichnet und erklärt, dass das Wasserzeichen weltweit und nicht nur für Nutzer innerhalb der EU gelten wird.

Funktionsweise des Wasserzeichensystems

Das Signal wird plattformübergreifend angewendet, einschließlich der Claude-App, der API, Claude Code, Claude Cowork und Claude Tag. Kunden, die über Amazon Web Services (AWS), Google Cloud und Microsoft Foundry auf unterstützte Modelle zugreifen, erhalten ebenfalls mit Wasserzeichen versehene Ausgaben.

Dateiausgaben werden über einen anderen Mechanismus verarbeitet. Unterstützte Dateiformate, darunter gängige Bildformate, erhalten signierte Provenienz-Metadaten auf Basis des Standards der Coalition for Content Provenance and Authenticity (C2PA) anstelle eines eingebetteten Textwasserzeichens. C2PA ist eine branchenübergreifende Spezifikation, die gemeinsam von Adobe, Microsoft, der BBC und anderen entwickelt wurde und zunehmend als gemeinsamer Rahmenstandard zur Verifizierung von Herkunft und Bearbeitungsverlauf digitaler Medien übernommen wird.

Ältere Claude-Modelle werden das Wasserzeichensystem nicht sofort erhalten. Anthropic erklärte, dass das Unternehmen daran arbeitet, die Funktion während der Übergangsfrist des EU-KI-Gesetzes auf diese Modelle auszuweiten.

Das Unternehmen wies darauf hin, dass umfangreiche Bearbeitung, Paraphrasierung, Übersetzung oder das Mischen von Claude-Ausgaben mit anderem Text das Wasserzeichen unerkennbar machen könnten. Es merkte zudem an, dass der Nachweis eines Wasserzeichens nicht zweifelsfrei bestätigt, dass Claude einen bestimmten Text ursprünglich verfasst hat, da auch Tätigkeiten wie das Korrekturlesen oder Übersetzen bestehender Texte mit Claude Spuren hinterlassen können.

Anthropic plant, technische Details zu veröffentlichen, um Nutzern und Drittparteien bei der Erkennung seiner Wasserzeichen zu helfen. Weitere Dokumentationen werden erwartet, während sich das Markierungs- und Erkennungssystem weiterentwickelt.

Anthropic ist das zweite große KI-Labor, das Textwasserzeichen eingeführt hat. Google DeepMind kündigte 2024 an, Texte und Videos, die über die Gemini-App und das Web-Erlebnis generiert werden, mit seiner SynthID-Technologie zu versehen, nachdem bereits 2023 eine Bild-Wasserserzeichnungsversion des Tools veröffentlicht worden war. Andere große Anbieter, darunter OpenAI und Meta, haben noch keine vergleichbare Wasserzeichnung auf Textebene eingeführt, obwohl die Transparenzanforderungen des EU-KI-Gesetzes generell für alle Anbieter allgemeiner KI-Modelle gelten, die in der Region tätig sind.