Компания Originality.ai, занимающаяся обнаружением ИИ-текстов, установила, что примерно две трети религиозных книг, отобранных ею на Amazon, вероятно, написаны искусственным интеллектом — результат, имеющий последствия для миллионов читателей, которые покупают книги о вере и духовности без возможности предварительно их просмотреть. Результаты представлены в исследовании компании.

Согласно отчёту, дешёвые книги, созданные машинами, поступают в магазин Amazon быстрее, чем ритейлер успевает их проверять. Amazon — крупнейший продавец книг в США, а его платформа для самостоятельной публикации Kindle Direct Publishing позволяет любому выставить на продажу книгу в мягкой обложке или электронную книгу без первоначальных затрат — низкий порог входа, сделавший магазин естественным местом для массово производимых изданий.

Результаты по 14 категориям веры

Originality.ai проанализировала 2 034 англоязычные книги в мягкой обложке из 14 категорий веры и мировоззрения. Каждая имела средний рейтинг четыре звезды или выше, а большинство было опубликовано в первые шесть месяцев 2026 года. Компания пометила 1 272 наименования, или 63%, как вероятно написанные ИИ.

Проверка охватывала аннотацию каждой книги, биографию автора и фрагмент текста изнутри книги, при этом наибольший вес придавался именно внутреннему фрагменту, поскольку он взят из самой книги. Любой балл 50 или выше помечался как «Вероятно, ИИ».

«Мы не утверждаем с определённостью, что книги окончательно написаны ИИ, — сказал Майкл Фрайман, автор отчёта. — Наша модель определяет вероятность того, что текст был создан ИИ, с определённой степенью достоверности».

Эта оговорка отражает известное ограничение сферы детектирования: OpenAI отозвала собственный классификатор ИИ-текстов в 2023 году, сославшись на низкую точность, а отдельные исследования зафиксировали, что детекторы ошибочно помечали тексты неносителей английского языка как созданные машиной.

Колдовство лидирует с 78%, сатанизм — минимум с 22%

Категория «Викка, колдовство и язычество» показала наибольшую долю вероятно написанных ИИ наименований — 78%. Далее следуют индуизм с 76% и даосизм с 74%. На другом конце — сатанизм с наименьшим показателем 22%, атеизм с 40% и мормонизм с 42%. В этих трёх категориях было гораздо меньше наименований, поэтому их проценты основаны на менее объёмных выборках.

Фрайман отметил, что авторы, штампующие книги с помощью ИИ, устремляются в самые востребованные категории, что может объяснять, почему в небольших поджанрах таких книг меньше.

Книги о колдовстве опирались на кристаллы, травяные средства и очищение от «негативных энергий» — материал, который продаётся, не требуя прохождения какой-либо научной проверки. «Идеального клиента можно представить как человека, ищущего способы исцелить себя, улучшить своё психическое здоровье или „детоксицироваться“ от привычных химикатов и лекарств», — сказал Фрайман.

Авторы исследования предположили, что высокие показатели в восточных религиях могут объясняться тем, что неносители английского языка используют ИИ, чтобы закрепиться на англоязычном рынке.

Книги ИИ на 2 доллара дешевле и на 38 страниц короче

Книги, вероятно написанные ИИ, в среднем стоили 16,84 доллара и содержали 170 страниц против 18,96 доллара и 208 страниц у тех, что признаны написанными человеком. Исследование характеризует эту практику как эксплуатацию и утверждает, что книги ИИ «бьют по самому сердцу убеждений верующего человека», взимая с него плату за это.

Точность также вызывала опасения. В книгах о колдовстве 53% проверяемых утверждений были помечены как потенциально ложные. Ещё четыре категории преодолели отметку в половину по ложным утверждениям: атеизм — 58%, агностицизм — 53%, сатанизм — 52% и буддизм — 52%.

Ответ Amazon

Amazon не запрещает написание книг с помощью ИИ. Представитель компании сослался на правила в отношении контента, заявив, что ритейлер принимает «проактивные и реактивные меры для предотвращения, обнаружения и удаления контента, нарушающего эти правила, независимо от того, сгенерирован он ИИ или нет».

В ответ на поток написанных машиной изданий Amazon уже ограничил количество книг, которые автор может публиковать, тремя в день — это ограничение было введено для Kindle Direct Publishing в 2023 году. В том же году Amazon начал требовать от издателей KDP декларировать, является ли загружаемый контент сгенерированным ИИ, однако эти декларации не отображаются на страницах товаров, которые просматривают покупатели.

Пока же покупатель, выбирающий книгу о духовности с рейтингом четыре звезды, не видит никакой пометки, указывающей, создана она человеком или моделью.

ИИ-тексты давно вышли за пределы интернет-книжного магазина. Согласно более ранним публикациям Cryptopolitan, одно из исследований показало, что до 22% научных работ по информатике содержат признаки использования языковых моделей.