Anthropic a annoncé qu’elle commencera à intégrer des filigranes invisibles dans les textes produits par ses modèles d’IA Claude, en réponse aux nouvelles exigences de transparence prévues par le règlement européen sur l’IA, la première réglementation globale sur l’IA au monde. Ces filigranes visent à rendre les contenus générés par l’IA plus faciles à identifier, mais le système signalera aussi des textes initialement rédigés par des humains puis ensuite édités ou traités par Claude — un périmètre qui pourrait compliquer la détermination de savoir si un contenu a réellement été créé par une IA.

L’entreprise d’IA basée à San Francisco a indiqué mardi que les modèles Claude lancés dans l’UE à partir du 2 août incluront dès leur mise en circulation des marquages lisibles par machine. Anthropic travaille également à étendre cette technologie aux modèles plus anciens.

Bien que ces filigranes aient été introduits pour se conformer au règlement européen sur l’IA, Anthropic a confirmé que les marquages s’appliqueront dans le monde entier partout où des modèles Claude pris en charge sont disponibles, y compris Claude, Claude Code et sa plateforme développeur.

Les textes générés par les modèles porteront un filigrane intégré qu’Anthropic dit devoir persister lors des opérations de copier-coller et qui pourrait survivre à au moins une partie des modifications. Les images et autres types de fichiers pris en charge porteront, eux, des métadonnées signées indiquant qu’ils ont été traités par Claude.

Anthropic prévoit de publier des outils permettant aux utilisateurs et à des tiers de détecter ses filigranes, même si les spécifications techniques n’ont pas encore été divulguées.

Cette annonce intervient alors que les régulateurs et les éditeurs exercent une pression croissante sur les entreprises d’IA pour rendre les contenus synthétiques plus identifiables, dans un contexte de forte augmentation des contenus générés par machine en ligne. En vertu des dispositions de transparence du règlement européen sur l’IA, tous les grands fournisseurs d’IA opérant dans l’Union — dont OpenAI, Google et Meta — sont soumis à des obligations comparables de signalisation des contenus générés par l’IA, et plusieurs juridictions en dehors de l’UE, dont le Royaume-Uni et certains États américains, avancent également leurs propres exigences d’étiquetage de l’IA. City AM avait déjà signalé la montée du « slop » généré par l’IA dans les rédactions, y compris des tribunes et des propositions présentées de manière trompeuse comme le travail de dirigeants et d’autres contributeurs.

Des textes rédigés par des humains pourraient aussi être signalés

Anthropic a reconnu que la détection de l’un de ses filigranes ne signifie pas nécessairement que Claude a rédigé le contenu original. Une personne peut écrire un article elle-même, puis demander à Claude de le relire, le traduire ou le modifier — et le texte obtenu peut malgré tout porter le filigrane de Claude, même si le contenu et les idées de fond proviennent de l’auteur humain.

L’article 50 du règlement européen sur l’IA précise que l’exigence de marquage ne s’applique pas lorsqu’un système d’IA remplit « une fonction d’assistance pour l’édition standard », ou n’altère pas substantiellement le contenu ou son sens. Anthropic a signé le Code de bonnes pratiques volontaire de l’UE, qui précise comment les entreprises peuvent se conformer aux obligations de transparence, mais sa décision d’appliquer des marquages à l’ensemble des sorties de Claude prises en charge pourrait donc couvrir des contenus allant au-delà de ce que la législation exige strictement.

L’entreprise a également mis en garde contre l’utilisation de ces filigranes comme preuve définitive d’une paternité par l’IA. Des modifications lourdes ou une paraphrase peuvent rendre un filigrane indétectable, tandis que les passages courts peuvent contenir trop peu de texte pour produire un signal fiable. Les métadonnées associées aux images et autres fichiers peuvent également disparaître lorsque les fichiers sont convertis ou capturés en capture d’écran.

La technologie de détection des « slop » n’est pas encore parfaite

Alex Cui, directeur technique de la société de détection de l’IA GPTZero, a écrit sur X que le filigranage de texte fonctionne généralement en modifiant subtilement la probabilité des mots sélectionnés par un modèle, créant ainsi un schéma statistique pouvant ensuite être identifié.

Mais il a estimé que la technologie restait imparfaite, en soutenant que les filigranes pourraient avoir du mal à résister à une « intense paraphrase », et a averti que la mise à disposition publique d’outils de détection pourrait faciliter la tâche des utilisateurs cherchant à comprendre comment les contourner.

« Les paraphraseurs gratuits que j’ai essayés ont rapidement contourné SynthId de Google DeepMind, pour ce que ça vaut », a-t-il écrit.

Une étude récente portant sur 1 682 adultes, publiée dans la revue Judgment and Decision Making, a révélé que les participants jugeaient les histoires produites par ChatGPT plus captivantes et de meilleure qualité que les histoires écrites par des humains. En revanche, ils attribuaient de meilleures notes aux histoires qu’on leur disait avoir été écrites par des humains. Dans deux expériences supplémentaires, les chercheurs n’ont trouvé aucune preuve générale permettant de penser que les participants pouvaient distinguer de manière fiable les récits rédigés par des humains de ceux écrits par une IA.

Anthropic a indiqué que son filigrane ne modifierait pas visiblement la sortie de Claude et n’affecterait ni son sens ni sa lisibilité. L’entreprise a concédé que le système fournirait un signal plutôt qu’une preuve concluante de l’origine d’un contenu, laissant aux entreprises ou aux éditeurs le soin de décider du poids à accorder à ces nouveaux marquages.