Anthropic a commencé à intégrer des filigranes invisibles dans le texte produit par ses nouveaux modèles Claude, en appliquant cette mesure à l'échelle mondiale alors que l'entreprise se prépare à se conformer à la loi sur l'IA de l'Union européenne, qui exige des fournisseurs de systèmes d'IA générant du contenu synthétique qu'ils garantissent la détectabilité de leurs productions.

Les modèles Claude publiés à partir du 2 août porteront un signal imperceptible au niveau du modèle. Selon Anthropic, le filigrane ne modifie ni le sens ni la lisibilité du texte et reste intégré lorsque le contenu est copié et collé. L'entreprise a précisé que la marque « peut subsister après certaines modifications ». Anthropic a signé le code de conduite de l'UE sur le contenu généré par l'IA et a déclaré que le filigranage s'appliquerait à l'échelle mondiale, et non uniquement aux utilisateurs de l'UE.

Comment fonctionne le système de filigranage

Le signal sera appliqué sur plusieurs surfaces, notamment l'application Claude, l'API, Claude Code, Claude Cowork et Claude Tag. Les clients accédant aux modèles pris en charge via Amazon Web Services (AWS), Google Cloud et Microsoft Foundry recevront également des résultats filigranés.

Les fichiers de sortie sont traités par un mécanisme différent. Les formats de fichiers pris en charge, y compris les types d'images courants, porteront des métadonnées de provenance signées basées sur la norme de la Coalition for Content Provenance and Authenticity (C2PA), plutôt qu'un filigrane textuel intégré. C2PA est une spécification intersectorielle développée conjointement par Adobe, Microsoft, la BBC et d'autres, de plus en plus adoptée comme cadre commun pour vérifier l'origine et l'historique de modification des médias numériques.

Les modèles Claude antérieurs ne recevront pas immédiatement le système de filigranage. Anthropic a indiqué qu'elle s'efforce d'étendre cette capacité à ces modèles durant la période de transition de la loi sur l'IA de l'UE.

L'entreprise a averti qu'une modification importante, une paraphrase, une traduction ou un mélange du résultat de Claude avec d'autres textes pourraient rendre le filigrane indétectable. Elle a également noté que la détection d'un filigrane ne confirme pas de manière définitive que Claude est à l'origine d'un texte donné, puisque des activités telles que la relecture ou la traduction de travaux existants via Claude peuvent également laisser une marque.

Anthropic prévoit de publier des détails techniques pour aider les utilisateurs et les tiers à détecter ses filigranes, une documentation supplémentaire étant attendue au fur et à mesure de l'évolution des systèmes de marquage et de détection.

Anthropic est le deuxième grand laboratoire d'IA à introduire le filigranage de texte. Google DeepMind a annoncé en 2024 qu'elle filigranait le texte et les vidéos générés via l'application et l'expérience web Gemini en utilisant sa technologie SynthID, ayant précédemment publié une version du tool dédiée au filigranage d'images en 2023. D'autres fournisseurs majeurs, dont OpenAI et Meta, n'ont pas encore déployé de filigranage au niveau du texte comparable, bien que les exigences de transparence de la loi sur l'IA de l'UE s'appliqueront globalement à tous les fournisseurs de modèles d'IA à usage général opérant dans la région.