OpenAI a commencé à déployer un filigrane statistique invisible, connu sous le nom de textGrain, sur les sorties de ChatGPT et Codex dans les territoires de l'Union européenne. Annoncé le 5 octobre, ce déploiement est présenté par l'entreprise comme une réponse directe aux obligations de transparence imposées par le règlement européen sur l'IA (AI Act). Cette initiative prolonge également les efforts existants d'OpenAI en matière de traçabilité du contenu, qui permettent déjà aux utilisateurs de vérifier si des images ou des fichiers audio ont été produits avec ses outils. L'entreprise a détaillé l'initiative dans une annonce officielle et une publication sur X :

We're expanding our approach to content provenance to include text in response to EU regulatory requirements, while recognizing the significant limitations of current text watermarking technology. Our tools already help verify whether an image or audio file was created with our…

— OpenAI (@OpenAI) October 5, 2026

Fonctionnement de textGrain

La technologie agit en influençant subtilement la sélection de mots du modèle de langage afin de créer une signature statistique dissimulée. Une application de détection associée analyse ensuite le texte pour identifier cette signature. Selon OpenAI, cette approche ne repose ni sur des caractères cachés, ni sur des espacements invisibles, ni sur des signes de ponctuation inhabituels. Par conséquent, les tactiques d'évasion courantes — comme la suppression de caractères cachés d'un texte copié — n'élimineront pas le filigrane, car la signature est tissée directement dans les motifs du langage lui-même.

Quelle est la résistance du filigrane face aux modifications ?

L'efficacité de la détection varie considérablement selon la longueur du contenu. OpenAI quantifie le texte en tokens — des fragments de mots que les modèles de langage interprètent, un token correspondant approximativement à trois quarts d'un mot anglais standard. Lors des évaluations internes, le système de détection a identifié avec succès environ 66 % des réponses non modifiées contenant approximativement 150 mots. Lorsque le contenu atteignait environ 300 mots, le taux de réussite montait à environ 92 %.

La modification du contenu compromet rapidement l'efficacité du filigrane. Pour des passages de 300 mots, le remplacement d'un mot sur dix par un synonyme a réduit la précision de détection de 92 % à 66 %. Lorsqu'un mot sur quatre était remplacé, la détection chutait à seulement 17 %. Les conclusions internes d'OpenAI démontrent que le système rencontre des difficultés importantes dès que le texte édité, condensé ou reformulé — une contrainte cohérente avec les « limites importantes de la technologie actuelle de filigrane textuel » que l'entreprise elle-même a reconnues au lancement.

L'entreprise a également indiqué que la mise en œuvre du filigrane a eu un impact minimal sur les indicateurs de performance de son modèle le plus récent, GPT-6 Astra.

Pourquoi l'outil de détection reste-t-il privé ?

OpenAI a choisi de ne pas rendre le détecteur immédiatement accessible au grand public. L'accès sera au contraire accordé exclusivement à des chercheurs vérifiés et à des organisations spécialisées. L'entreprise précise qu'un résultat de détection positif ne révèle ni l'identité de l'utilisateur, ni les requêtes saisies, ni les détails des conversations.

Un résultat négatif est lui aussi peu concluant. Un contenu court, modifié ou traduit peut échapper au détecteur sans déclencher d'alerte. Le contenu généré par des plateformes d'IA concurrentes n'activera pas non plus le système, car celui-ci recherche exclusivement la signature propriétaire d'OpenAI. L'entreprise a explicitement précisé que l'absence de détection d'un filigrane ne confirme pas une paternité humaine.

Les contenus visuels et audio suivent un processus de vérification distinct. Les utilisateurs peuvent déjà téléverser ces types de fichiers sur la plateforme de vérification accessible au public d'OpenAI pour y rechercher son filigrane SynthID. Pour l'instant, les sorties textuelles n'ont pas de contrôle public équivalent, l'accès au détecteur restant limité aux organisations agréées.

Portée régionale et contexte réglementaire

Pour les territoires situés hors de l'Union européenne, le filigrane de ChatGPT reste désactivé par défaut pour les utilisateurs standards. Les clients API du monde entier peuvent toutefois l'activer pour certains modèles via les préférences de leur projet ou de leur organisation. En pratique, le filigrane est obligatoire pour les sorties de ChatGPT au sein de l'UE, tandis que les utilisateurs de l'API dans le monde entier peuvent l'activer volontairement dans leurs paramètres — activé par défaut pour les utilisateurs de l'UE, sur option partout ailleurs.

Ce déploiement fait suite à l'application par l'UE des dispositions de transparence de l'AI Act, débutée en août. OpenAI a présenté le filigrane comme un élément de sa réponse continue aux exigences réglementaires. L'entreprise a également cité des données sectorielles plus larges dans son communiqué : les recherches de TRM Labs indiquent que l'exploitation criminelle des outils d'IA a augmenté de 40 % sur un an.

OpenAI n'a pas indiqué si ni quand l'outil de détection pourrait devenir accessible au public. La manière dont le système résistera à l'édition, à la condensation et à la traduction en conditions réelles, ainsi que l'ampleur de l'adhésion des opérateurs API hors de l'UE, restent des questions ouvertes à mesure que le déploiement se poursuit. Pour l'instant, la mise en œuvre dans l'UE et l'accès restreint aux groupes de recherche agréés et aux institutions expertes constituent le périmètre actuel de l'initiative.

Source : Blockonomi