Towards AI a publié un article mis à jour le 27 juillet 2026 qui examine pourquoi les textes générés par l’IA restent difficiles à identifier de manière fiable, alors même que les écoles, universités et autres institutions continuent de rechercher des outils de détection fiables. L’article a été publié à l’origine sur Towards AI et est également disponible sur Medium.

L’article se concentre sur les classificateurs, les filigranes et les limites théoriques qui sous-tendent la détection des textes générés par l’IA. Il indique que la demande pour des détecteurs fiables est apparue fin 2022, lorsque les systèmes d’IA sont devenus capables de rédiger des dissertations et des articles complets sans composition humaine directe. Les établissements d’enseignement et d’autres organisations ont alors commencé à rechercher des outils capables de distinguer les textes produits par une machine du travail humain, en particulier dans des contextes où l’auteur d’un texte a des conséquences académiques, professionnelles ou réglementaires.

Selon l’article, les premiers détecteurs de textes générés par l’IA reposaient souvent sur de simples mesures de prévisibilité, comme la perplexité. Les systèmes plus récents utilisent des classificateurs entraînés fondés sur des transformers, qui convertissent le texte en un espace d’embeddings et renvoient une estimation de probabilité indiquant si un passage relève de l’« IA » ou de l’« humain ». Toutefois, l’article note que même ces modèles plus récents ne fournissent pas de règle claire permettant de séparer de façon décisive les textes générés par l’IA de ceux rédigés par des humains.

L’article soutient que les améliorations annoncées des performances des détecteurs peuvent dépendre fortement du choix des benchmarks et des méthodes d’entraînement. Ces choix peuvent introduire des raccourcis et des biais, donnant aux détecteurs une apparence de solidité dans des tests contrôlés supérieure à ce qu’ils offrent dans des situations pratiques. En usage réel, selon l’article, les détecteurs continuent d’échouer face à l’évolution des conditions d’écriture et aux attaques adversariales, notamment la paraphrase et la réécriture guidée par le détecteur.

L’auteur présente également un résultat théorique de « plafond ». L’article indique que la détection fiable est fondamentalement limitée par le degré de similarité que peuvent atteindre les distributions des textes humains et des textes générés par l’IA. À mesure que l’écriture produite par l’IA devient plus fluide et plus proche de l’écriture humaine, les détecteurs peuvent être poussés vers des performances qui ressemblent à des réponses au hasard. Cette approche élargit la question au-delà de toute comparaison entre produits : même des classificateurs améliorés peuvent rencontrer des limites si les textes qu’ils évaluent ne contiennent plus de différences stables et détectables.

L’article décrit en outre des tests pratiques réalisés avec un détecteur commercial. Lors de ces tests, l’auteur a constaté des faux positifs surprenants sur des textes humains, ainsi que des résultats inattendus pour des textes mixtes qui semblaient évidents. La conclusion est que les institutions devraient considérer les scores des détecteurs uniquement comme des signaux faibles, et non comme une preuve d’auteur, car le problème sous-jacent de la détection n’est probablement pas soluble de manière permanente.