Firma zajmująca się wykrywaniem AI, Originality.ai, stwierdziła, że mniej więcej dwie trzecie religijnych książek, które próbki pobrała z Amazonu, zostało prawdopodobnie napisanych przez sztuczną inteligencję, co ma znaczenie dla milionów czytelników kupujących tytuły o wierze i duchowości bez możliwości wcześniejszego sprawdzenia ich zawartości. Wyniki opisano w badaniu firmy.

Według raportu tanie, masowo tworzone książki trafiają do sklepu Amazonu szybciej, niż sprzedawca jest w stanie je ocenić. Amazon jest największym sprzedawcą książek w Stanach Zjednoczonych, a jego platforma self-publishingowa, Kindle Direct Publishing, pozwala każdemu wystawić książkę papierową lub e-book bez kosztów początkowych — to niski próg wejścia, który sprawił, że sklep stał się naturalnym miejscem dla ofert produkowanych masowo.

Wyniki w 14 kategoriach wiary

Originality.ai przeanalizowało 2,034 anglojęzycznych książek papierowych w 14 kategoriach wiary i przekonań. Każda miała średnią ocenę co najmniej czterech gwiazdek, a większość została opublikowana w pierwszych sześciu miesiącach 2026. Firma oznaczyła 1,272 tytuły, czyli 63%, jako prawdopodobnie napisane przez AI.

Analiza objęła streszczenie każdej książki, biogram autora oraz próbkę z wnętrza książki, przy czym największą wagę miała próbka z treści, ponieważ pochodzi z samej książki. Każdy wynik 50 lub wyższy oznaczono jako „Likely AI”.

„Nie twierdzimy z całkowitą pewnością, że książki zostały jednoznacznie napisane przez AI” — powiedział Michael Fraiman, autor raportu. „Nasz model określa prawdopodobieństwo, że coś zostało napisane przez AI, z pewnym poziomem pewności”.

To zastrzeżenie odzwierciedla znane ograniczenie narzędzi detekcyjnych: OpenAI wycofało swój własny klasyfikator tekstu AI w 2023, powołując się na niską dokładność, a odrębne badania wykazały, że detektory błędnie oznaczają teksty pisane przez osoby niebędące native speakerami jako wygenerowane maszynowo.

Czarostwo na prowadzeniu z 78%, satanizm na końcu z 22%

Kategoria Wicca, Witchcraft i Paganism odnotowała najwyższy udział tytułów prawdopodobnie napisanych przez AI — 78%. Następne były Hinduism z 76% i Taoism z 74%. Na drugim końcu skali Satanism miał najniższy wynik — 22%, a Atheism osiągnął 40% i Mormonism 42%. Te trzy kategorie miały znacznie mniej tytułów do analizy, więc ich odsetki opierają się na skromniejszych próbkach.

Fraiman zauważył, że autorzy masowo tworzący książki AI celują w najbardziej popularne kategorie, co może wyjaśniać, dlaczego w mniejszych podgatunkach widać tego mniej.

Tytuły o czarostwie opierały się na kryształach, ziołowych środkach i oczyszczaniu „negative energies” — to rodzaj treści, który sprzedaje się bez konieczności spełniania jakichkolwiek kryteriów naukowych. „Można sobie wyobrazić idealnego klienta jako osobę szukającą rozwiązań, by się uleczyć, poprawić zdrowie psychiczne albo ‘detox’ od powszechnych chemikaliów i narkotyków” — powiedział Fraiman.

Autorzy badania zasugerowali, że wysokie wskaźniki w religiach wschodnich mogą wynikać z tego, że osoby niebędące native speakerami języka angielskiego używają AI, aby zdobyć przyczółek na anglojęzycznym rynku.

Książki AI są tańsze o 2 USD i krótsze o 38 stron

Prawdopodobnie napisane przez AI książki kosztowały średnio 16.84 USD i miały 170 stron, wobec 18.96 USD i 208 stron w przypadku tych uznanych za napisane przez ludzi. Badanie przedstawia to zjawisko jako wyzysk i twierdzi, że książki AI „odwołują się do najgłębszych przekonań osoby religijnej”, jednocześnie pobierając od niej opłatę za ten problem.

Obawy budziła także dokładność. W tytułach o czarostwie 53% faktów możliwych do sprawdzenia oznaczono jako potencjalnie fałszywe. Cztery inne kategorie przekroczyły połowę w fałszywych twierdzeniach: Atheism osiągnął 58%, agnosticism 53%, Satanism 52% i Buddhism 52%.

Odpowiedź Amazonu

Amazon nie zakazuje pisania przez AI. Rzecznik firmy wskazał na wytyczne dotyczące treści, mówiąc, że sprzedawca stosuje „proaktywne i reaktywne działania, aby zapobiegać, wykrywać i usuwać treści naruszające te wytyczne, niezależnie od tego, czy zostały wygenerowane przez AI, czy nie”.

Amazon już wcześniej ograniczył liczbę książek, które autor może opublikować, do trzech dziennie w reakcji na lawinę ofert tworzonych przez maszyny — limit ten wprowadził w Kindle Direct Publishing w 2023. W tym samym roku Amazon zaczął wymagać od wydawców KDP deklarowania, czy przesyłane treści zostały wygenerowane przez AI, ale te deklaracje nie są wyświetlane na stronach produktów oglądanych przez klientów.

Na razie kupujący przeglądający paperback o duchowości z oceną czterech gwiazdek nie ma oznaczenia, które mówiłoby, czy książka pochodzi od człowieka, czy od modelu.

Pisanie z użyciem AI wyszło daleko poza internetową księgarnię. Jak wcześniej informował Cryptopolitan, jedno z badań wykazało, że nawet 22% prac z informatyki nosiło ślady użycia modeli językowych.