Près des deux tiers des livres religieux échantillonnés sur Amazon auraient probablement été rédigés par une intelligence artificielle, selon une nouvelle étude du spécialiste de la détection de l’IA Originality.ai portant sur plus de 2 000 titres récemment publiés.

Dans un rapport publié mercredi, la société a signalé 1 272 livres sur 2 034, soit 63 %, comme probablement rédigés par l’IA dans 14 catégories religieuses et de croyance. L’étude a également conclu que 53 % des affirmations vérifiables dans les livres de sorcellerie étaient potentiellement fausses.

La sorcellerie affichait le taux le plus élevé, avec 78 % des livres échantillonnés dans la catégorie Wicca, Witchcraft & Paganism d’Amazon classés comme probablement rédigés par l’IA. Les titres couvraient des sujets tels que les cristaux de guérison, les remèdes à base de plantes et le nettoyage des « énergies négatives ». Selon l’auteur du rapport, Michael Fraiman, de nombreux livres de sorcellerie portaient sur ces sujets.

« On peut imaginer le client idéal comme quelqu’un qui cherche des solutions pour se soigner, améliorer sa santé mentale ou se “détoxifier” des produits chimiques et drogues courants », a déclaré Fraiman à Decrypt. « Ces livres wiccans peuvent répondre à ces préoccupations sans être soumis à aucune norme scientifique. »

Cette préoccupation fait écho à de précédents avertissements concernant les ouvrages de non-fiction générés par l’IA sur Amazon : en 2023, la New York Mycological Society avait mis en garde contre le risque que des guides de cueillette de champignons rédigés par l’IA, vendus sur la plateforme, conduisent les lecteurs à confondre des champignons mortels.

L’hindouisme s’est classé deuxième à 76 %, suivi du taoïsme à 74 %, tandis que le sikhisme, le bouddhisme, l’islam, le catholicisme, le protestantisme, le christianisme orthodoxe et le judaïsme se situaient entre les deux. Le mormonisme est ressorti à 42 %, l’athéisme à 40 % et le satanisme à 22 %. Les chercheurs ont averti que les tailles d’échantillon variaient fortement selon les catégories.

Fraiman a indiqué que les chercheurs avaient analysé les descriptions des livres, les biographies des auteurs et des extraits, en classant comme « Likely AI » les textes obtenant un score de 50 ou plus. Il a toutefois précisé que ces résultats indiquent une probabilité, et non une preuve.

« Nous ne prétendons pas avoir la certitude qu’un livre a définitivement été rédigé par l’IA », a-t-il déclaré. « Notre modèle détermine la probabilité qu’un texte ait été rédigé par l’IA avec un certain degré de certitude. »

Fraiman a ajouté que les chercheurs avaient également effectué des vérifications ponctuelles sur des livres signalés comme probablement générés par l’IA.

« À ce stade, notre équipe de recherche peut faire la différence entre un contenu probablement rédigé par l’IA et un contenu rédigé par un humain », a-t-il ajouté.

Bien que Fraiman se dise confiant dans ces résultats, les détecteurs d’IA ont produit des faux positifs et des résultats contradictoires. En octobre 2024, un test de quatre détecteurs d’IA a donné des résultats divergents lors de l’analyse de la Déclaration d’indépendance des États-Unis. ZeroGPT a estimé que le texte était généré à 97,93 % par l’IA, tandis que QuillBot l’a jugé entièrement rédigé par un humain et GPTZero lui a attribué une probabilité de 89 % d’avoir été écrit par un humain.

Plus récemment, en mars, la Cour suprême de Colombie a rejeté un dépôt juridique après que des détecteurs l’ont signalé comme généré par l’IA. Lorsqu’un avocat a soumis la décision du tribunal au même détecteur, elle a été évaluée à 93 % comme générée par l’IA.

Amazon n’a pas immédiatement répondu à une demande de commentaire de Decrypt.

« Amazon est conscient de la fréquence du contenu rédigé par l’IA sur sa plateforme et utilise le système de l’honneur, laissant aux auteurs le soin d’identifier eux-mêmes leur travail comme rédigé par l’IA », a déclaré Fraiman, ajoutant que l’entreprise n’avait pas partagé ses conclusions avec Amazon. « Nous ne disposons d’aucune donnée sur le nombre d’auteurs qui le divulguent réellement. »

Depuis septembre 2023, Amazon exige des auteurs sur sa plateforme Kindle Direct Publishing qu’ils indiquent à l’entreprise lorsqu’un livre contient du contenu généré par l’IA, et a également limité les mises en ligne à trois nouveaux titres par jour, sans toutefois préciser si ces divulgations sont signalées aux acheteurs. Les règles de divulgation se sont aussi durcies ailleurs : l’EU AI Act ajoute des exigences de transparence pour le marquage du contenu généré par l’IA, et une règle de la Federal Trade Commission américaine entrée en vigueur en octobre 2024 interdit les faux avis de consommateurs générés par l’IA — sans que l’une ou l’autre ne traite spécifiquement de l’édition de livres.

L’utilisation de livres physiques pour entraîner l’IA fait également l’objet d’un examen accru, alors que des développeurs achètent des millions de titres, les démontent, numérisent leurs pages dans des jeux de données d’entraînement, puis jettent les originaux. En août, une enquête a suivi une expédition de livres rares vers un site Amazon à Las Vegas, où des employés ont retiré les reliures et numérisé les pages pour des données d’entraînement de l’IA. Amazon a confirmé qu’il achète des livres via des circuits commerciaux pour cette opération.

Daily Debrief Newsletter