Bijna tweederde van de religieuze boeken die op Amazon zijn onderzocht, is vermoedelijk geschreven door kunstmatige intelligentie. Dat blijkt uit een nieuw onderzoek van AI-detectiebedrijf Originality.ai, dat meer dan 2.000 recent gepubliceerde titels beslaat.

In een rapport dat woensdag werd gepubliceerd, bestempelde het bedrijf 1.272 van de 2.034 boeken, oftewel 63%, als vermoedelijk met AI geschreven, verspreid over 14 religieuze en levensbeschouwelijke categorieën. Het onderzoek wees bovendien uit dat 53% van de verifieerbare beweringen in boeken over hekserij mogelijk onjuist is.

Hekserij had het hoogste percentage: 78% van de onderzochte boeken uit de Amazon-categorie Wicca, Witchcraft & Paganism werd geclassificeerd als vermoedelijk met AI geschreven. De titels behandelden onderwerpen als helende kristallen, kruidenremedies en het zuiveren van "negatieve energieën". Volgens rapportauteur Michael Fraiman richtten veel van de boeken over hekserij zich op die onderwerpen.

"Je kunt de ideale klant voorstellen als iemand die op zoek is naar oplossingen om zichzelf te genezen, de eigen mentale gezondheid te verbeteren of te 'detoxen' van alledaagse chemicaliën en medicijnen," zei Fraiman tegen Decrypt. "Deze Wicca-boeken kunnen op die zorgen inspelen zonder aan enige wetenschappelijke standaard te hoeven voldoen."

De zorgen sluiten aan bij eerdere waarschuwingen over met AI gegenereerde non-fictie op Amazon: in 2023 waarschuwde de New York Mycological Society dat met AI geschreven gidsen voor het zoeken naar paddestoelen, die op het platform werden verkocht, het risico met zich meebrachten dat lezers dodelijke paddestoelen verkeerd identificeerden.

Het hindoeïsme stond tweede met 76%, gevolgd door het taoïsme met 74%, met het sikhisme, het boeddhisme, de islam, het katholicisme, het protestantisme, het orthodoxe christendom en het jodendom daartussenin. Het mormonisme kwam uit op 42%, het atheïsme op 40% en het satanisme op 22%. De onderzoekers waarschuwden dat de steekproefgroottes per categorie aanzienlijk verschilden.

Fraiman zei dat de onderzoekers boekbeschrijvingen, auteursbiografieën en tekstfragmenten analyseerden, waarbij tekst met een score van 50 of hoger werd geclassificeerd als "vermoedelijk AI". Hij waarschuwde er echter voor dat de resultaten waarschijnlijkheid aangeven en geen bewijs.

"Wij beweren niet met zekerheid te weten of boeken definitief met AI zijn geschreven," zei hij. "Ons model bepaalt, met een zekere mate van zekerheid, de waarschijnlijkheid dat iets met AI is geschreven."

Fraiman meldde dat de onderzoekers ook steekproeven uitvoerden onder boeken die als vermoedelijk AI-gegenereerd waren gemarkeerd.

"Inmiddels kan ons onderzoekteam het verschil zien tussen inhoud die vermoedelijk met AI is geschreven en inhoud die door mensen is geschreven," voegde hij eraan toe.

Hoewel Fraiman vertrouwen uitte in de bevindingen, hebben AI-detectors eerder vals-positieven en tegenstrijdige resultaten opgeleverd. In oktober 2024 leverde een test van vier AI-detectors tegenstrijdige uitkomsten op bij de analyse van de Amerikaanse Onafhankelijkheidsverklaring. ZeroGPT classificeerde de tekst als 97,93% AI-gegenereerd, terwijl QuillBot deze volledig als mensgeschreven beoordeelde en GPTZero de tekst een waarschijnlijkheid van 89% gaf om door een mens te zijn geschreven.

Recenter, in maart, wees het Hooggerechtshof van Colombia een juridisch stuk af nadat detectors het als AI-gegenereerd hadden gemarkeerd. Toen een advocaat de uitspraak van het hof aan dezelfde detector voorlegde, werd deze beoordeeld als 93% AI-gegenereerd.

Amazon reageerde niet onmiddellijk op een verzoek om commentaar van Decrypt.

"Amazon weet hoe gebruikelijk met AI geschreven inhoud op hun platform is en past een vertrouwenssysteem toe waarbij auteurs hun werk zelf als met AI geschreven mogen aanduiden," zei Fraiman, eraan toevoegend dat het bedrijf zijn bevindingen niet met Amazon had gedeeld. "We hebben geen gegevens over hoeveel auteurs dat daadwerkelijk doen."

Sinds september 2023 vereist Amazon dat auteurs op zijn Kindle Direct Publishing-platform het bedrijf melden wanneer de inhoud van een boek met AI is gegenereerd; het bedrijf heeft uploads bovendien beperkt tot drie nieuwe titels per dag, maar heeft niet aangegeven dat dergelijke meldingen voor kopers zichtbaar worden gemaakt. Elders zijn openbaarmakingsregels in beweging gekomen: de AI Act van de EU voegt transparantie-eisen toe voor het markeren van AI-gegenereerde inhoud, en een regel van de Amerikaanse Federal Trade Commission die in oktober 2024 in werking trad, verbiedt met AI gegenereerde neprecensies van consumenten — hoewel geen van beide specifiek betrekking heeft op boekuitgeverijen.

Ook het gebruik van fysieke boeken om AI te trainen heeft kritiek getrokken, nu ontwikkelaars miljoenen titels kopen, ze uit elkaar halen, de pagina's scannen voor trainingsdatasets en de originelen weggooien. In augustus volgde een onderzoek een zending zeldzame boeken naar een Amazon-vestiging in Las Vegas, waar medewerkers de boekbanden eraf sneden en de pagina's scanden voor AI-trainingsdata. Amazon bevestigde dat het boeken via commerciële kanalen koopt voor deze operatie.