Anthropic is begonnen met het inbedden van onzichtbare watermerken in tekst die wordt geproduceerd door zijn nieuwere Claude-modellen. Het bedrijf past deze maatregel wereldwijd toe ter voorbereiding op de naleving van de AI-wet van de Europese Unie, die aanbieders van AI-systemen die synthetische inhoud genereren verplicht ervoor te zorgen dat hun output detecteerbaar is.

Claude-modellen die vanaf 2 augustus zijn uitgebracht, dragen een onwaarneembaar signaal op modelniveau. Volgens Anthropic verandert het watermerk de betekenis of leesbaarheid van de tekst niet en blijft het ingebed wanneer inhoud wordt gekopieerd en geplakt. Het bedrijf merkte op dat het merk "bepaalde bewerkingen kan doorstaan." Anthropic heeft de gedragscode van de EU voor door AI gegenereerde inhoud ondertekend en verklaarde dat het watermerken wereldwijd zal toepassen en niet alleen voor gebruikers binnen de EU.

Hoe het watermerksysteem werkt

Het signaal wordt toegepast op meerdere oppervlakken, waaronder de Claude-app, de API, Claude Code, Claude Cowork en Claude Tag. Klanten die toegang hebben tot ondersteunde modellen via Amazon Web Services (AWS), Google Cloud en Microsoft Foundry, ontvangen eveneens van een watermerk voorziene output.

Bestandsuitvoer wordt via een ander mechanisme verwerkt. Ondersteunde bestandsindelingen, waaronder veelvoorkomende afbeeldingstypen, bevatten ondertekende herkomstmetagegevens op basis van de C2PA-standaard (Coalition for Content Provenance and Authenticity), in plaats van een ingebed tekstwatermerk. C2PA is een branchespecifieke specificatie die gezamenlijk is ontwikkeld door Adobe, Microsoft, de BBC en anderen, en die in toenemende mate wordt overgenomen als een gemeenschappelijk kader voor het verifiëren van de herkomst en bewerkingsgeschiedenis van digitale media.

Oudere Claude-modellen ontvangen nog niet direct het watermerksysteem. Anthropic zei dat het bedrijf bezig is de mogelijkheid tijdens de overgangsperiode van de AI-wet van de EU naar die modellen uit te breiden.

Het bedrijf waarschuwde dat zware bewerking, parafraseren, vertaling of het mengen van Claude's output met andere tekst het watermerk ondetecteerbaar kan maken. Het merkte ook op dat het detecteren van een watermerk niet definitief bevestigt dat Claude een bepaald stuk tekst oorspronkelijk heeft geschreven, aangezien activiteiten zoals het redigeren of vertalen van bestaand werk via Claude eveneens een spoor kunnen achterlaten.

Anthropic is van plan technische details te publiceren om gebruikers en derden te helpen bij het detecteren van zijn watermerken. Verdere documentatie wordt verwacht naarmate de systemen voor markering en detectie zich verder ontwikkelen.

Anthropic is het tweede grote AI-laboratorium dat tekstwatermerken introduceert. Google DeepMind kondigde in 2024 aan dat het tekst en video die via de Gemini-app en webervaring werden gegenereerd, voorzag van watermerken met behulp van zijn SynthID-technologie, nadat het in 2023 al een versie van de tool voor afbeeldingswatermerken had uitgebracht. Andere grote aanbieders, waaronder OpenAI en Meta, hebben nog geen vergelijkbare watermerking op tekstniveau uitgerold, hoewel de transparantievereisten van de AI-wet van de EU breed van toepassing zullen zijn op alle aanbieders van algemene AI-modellen die in de regio actief zijn.