Quasi due terzi dei libri religiosi campionati su Amazon sono stati probabilmente scritti dall'intelligenza artificiale, secondo un nuovo studio della società di rilevamento IA Originality.ai che analizza più di 2.000 titoli pubblicati di recente.

In un rapporto pubblicato mercoledì, la società ha segnalato 1.272 libri su 2.034, ovvero il 63%, come probabilmente scritti dall'IA in 14 categorie religiose e di credenza. Lo studio ha inoltre rilevato che il 53% delle affermazioni verificabili nei libri sulla stregoneria era potenzialmente falso.

La stregoneria ha registrato il tasso più alto, con il 78% dei libri campionati dalla categoria Wicca, Witchcraft & Paganism di Amazon classificati come probabilmente scritti dall'IA. I titoli trattavano argomenti tra cui cristalli curativi, rimedi a base di erbe e la pulizia delle "energie negative". Secondo l'autore del rapporto Michael Fraiman, molti dei libri sulla stregoneria si concentravano su questi argomenti.

"Si può immaginare il cliente ideale come qualcuno che cerca soluzioni per guarire se stesso, migliorare la propria salute mentale o 'disintossicarsi' da sostanze chimiche e farmaci comuni", ha detto Fraiman a Decrypt. "Questi libri wiccan possono affrontare queste esigenze senza essere vincolati ad alcuno standard scientifico."

Questa preoccupazione fa eco ad avvertimenti precedenti sulla saggistica generata dall'IA su Amazon: nel 2023, la New York Mycological Society aveva segnalato che le guide sulla raccolta di funghi scritte dall'IA e vendute sulla piattaforma rischiavano di indurre i lettori a identificare erroneamente funghi mortali.

L'induismo si è classificato al secondo posto con il 76%, seguito dal taoismo al 74%, con sikhismo, buddismo, islam, cattolicesimo, protestantesimo, cristianesimo ortodosso ed ebraismo a collocarsi nel mezzo. Il mormonismo è arrivato al 42%, l'ateismo al 40% e il satanismo al 22%. I ricercatori hanno avvertito che le dimensioni dei campioni variavano in modo significativo tra le categorie.

Fraiman ha detto che i ricercatori hanno analizzato le descrizioni dei libri, le biografie degli autori e i campioni, classificando come "Probabilmente IA" il testo con un punteggio di 50 o superiore. Ha però avvertito che i risultati indicano una probabilità, non una prova.

"Non affermiamo con certezza se i libri siano definitivamente scritti dall'IA", ha detto. "Il nostro modello determina, con un certo grado di certezza, la probabilità che qualcosa sia stato scritto dall'IA."

Fraiman ha osservato che i ricercatori hanno anche effettuato controlli a campione sui libri segnalati come probabilmente generati dall'IA.

"A questo punto, il nostro team di ricerca è in grado di distinguere tra contenuti probabilmente scritti dall'IA e contenuti scritti dall'uomo", ha aggiunto.

Sebbene Fraiman abbia espresso fiducia nei risultati, i rilevatori di IA hanno in passato prodotto falsi positivi e risultati contrastanti. Nell'ottobre 2024, un test su quattro rilevatori di IA ha prodotto risultati divergenti durante l'analisi della Dichiarazione di Indipendenza degli Stati Uniti. ZeroGPT ha stabilito che il testo era generato dall'IA al 97,93%, mentre QuillBot lo ha ritenuto interamente scritto da una persona e GPTZero gli ha assegnato una probabilità dell'89% di essere stato scritto da un essere umano.

Più recentemente, a marzo, la Corte Suprema della Colombia ha respinto un atto processuale dopo che i rilevatori lo avevano segnalato come generato dall'IA. Quando un avvocato ha sottoposto la sentenza della corte allo stesso rilevatore, questa è stata valutata come generata dall'IA al 93%.

Amazon non ha risposto immediatamente a una richiesta di commento da parte di Decrypt.

"Amazon è consapevole di quanto siano diffusi i contenuti scritti dall'IA sulla loro piattaforma e ricorre al sistema dell'onore, affidandosi agli autori perché identifichino autonomamente il proprio lavoro come scritto dall'IA", ha detto Fraiman, aggiungendo che la società non ha condiviso i propri risultati con Amazon. "Non abbiamo dati su quanti autori dichiarino effettivamente ciò."

Da settembre 2023, Amazon richiede agli autori sulla sua piattaforma Kindle Direct Publishing di informare la società quando il contenuto di un libro è generato dall'IA e ha anche limitato i caricamenti a tre nuovi titoli al giorno, anche se non ha indicato che tali dichiarazioni vengano etichettate per gli acquirenti. Altrove le regole di divulgazione hanno iniziato a irrigidirsi: l'AI Act dell'UE aggiunge requisiti di trasparenza per l'etichettatura dei contenuti generati dall'IA e una regola della Federal Trade Commission statunitense entrata in vigore nell'ottobre 2024 vieta le recensioni false dei consumatori generate dall'IA, sebbene nessuna delle due si occupi specificamente di editoria libraria.

Anche l'uso di libri fisici per addestrare l'IA ha attirato attenzioni critiche, poiché gli sviluppatori acquistano milioni di titoli, li smontano, ne scansionano le pagine per inserirle nei dataset di addestramento e scartano gli originali. Ad agosto, un'indagine ha tracciato una spedizione di libri rari verso una struttura di Amazon a Las Vegas, dove i lavoratori hanno tagliato le rilegature e scansionato le pagine per ricavarne dati di addestramento per l'IA. Amazon ha confermato di acquistare libri attraverso canali commerciali per questa operazione.