Casi dos tercios de los libros religiosos muestreados en Amazon probablemente fueron escritos por inteligencia artificial, según un nuevo estudio de la firma de detección de IA Originality.ai que abarcó más de 2,000 títulos publicados recientemente.

En un informe publicado el miércoles, la firma marcó 1,272 de 2,034 libros, o 63%, como probablemente escritos por IA en 14 categorías religiosas y de creencias. El estudio también encontró que 53% de las afirmaciones verificables en libros de brujería eran potencialmente falsas.

La brujería tuvo la tasa más alta, con 78% de los libros muestreados de la categoría Wicca, Witchcraft & Paganism de Amazon clasificados como probablemente escritos por IA. Los títulos cubrían temas como cristales curativos, remedios herbales y limpieza de "energías negativas." Según el autor del informe, Michael Fraiman, muchos de los libros de brujería se centraban en esos temas.

"Uno puede imaginar al cliente ideal como alguien que busca soluciones para curarse a sí mismo, mejorar su salud mental o ‘desintoxicarse' de químicos y drogas comunes", dijo Fraiman a Decrypt. "Estos libros wiccanos pueden abordar estas preocupaciones sin estar sujetos a ningún estándar científico."

La preocupación se hace eco de advertencias anteriores sobre la no ficción generada por IA en Amazon: en 2023, la New York Mycological Society advirtió que las guías de recolección de hongos escritas por IA vendidas en la plataforma podían llevar a los lectores a identificar incorrectamente hongos mortales.

El hinduismo ocupó el segundo lugar con 76%, seguido por el taoísmo con 74%, mientras que el sijismo, el budismo, el islam, el catolicismo, el protestantismo, el cristianismo ortodoxo y el judaísmo quedaron en medio. El mormonismo obtuvo 42%, el ateísmo 40% y el satanismo 22%. Los investigadores advirtieron que los tamaños de muestra variaban significativamente entre categorías.

Fraiman dijo que los investigadores analizaron descripciones de libros, biografías de autores y muestras, clasificando como "Likely AI" el texto que obtuvo 50 o más. Sin embargo, advirtió que los resultados indican probabilidad, no prueba.

"No afirmamos con certeza que los libros sean definitivamente escritos por IA", dijo. "Nuestro modelo determina la probabilidad de que algo haya sido escrito por IA con un cierto grado de certeza."

Fraiman señaló que los investigadores también revisaron manualmente libros señalados como probablemente generados por IA.

"A estas alturas, nuestro equipo de investigación puede distinguir entre contenido probablemente escrito por IA y contenido escrito por humanos", añadió.

Aunque Fraiman expresó confianza en los hallazgos, los detectores de IA han producido falsos positivos y resultados contradictorios. En octubre de 2024, una prueba de cuatro detectores de IA produjo resultados inconsistentes al analizar la Declaración de Independencia de EE. UU. ZeroGPT consideró que el texto era 97.93% generado por IA, mientras que QuillBot lo encontró totalmente escrito por humanos y GPTZero le dio una probabilidad de 89% de haber sido escrito por humanos.

Más recientemente, en marzo, la Corte Suprema de Colombia rechazó una presentación legal después de que los detectores la señalaran como generada por IA. Cuando un abogado presentó la sentencia del tribunal al mismo detector, fue calificada como 93% generada por IA.

Amazon no respondió de inmediato a una solicitud de comentario de Decrypt.

"Amazon sabe cuán común es el contenido escrito por IA en su plataforma, y utiliza el sistema de honor para que los autores se identifiquen a sí mismos como autores de trabajos escritos por IA", dijo Fraiman, y añadió que la empresa no compartió sus hallazgos con Amazon. "No tenemos datos sobre cuántos autores realmente lo declaran."

Desde septiembre de 2023, Amazon exige a los autores de su plataforma Kindle Direct Publishing que indiquen a la empresa cuándo el contenido de un libro es generado por IA, y también limitó las cargas a tres nuevos títulos por día, aunque no ha indicado que esas divulgaciones se etiqueten para los compradores. Las normas de divulgación han comenzado a endurecerse en otros lugares: la Ley de IA de la UE añade requisitos de transparencia para marcar contenido generado por IA, y una norma de la Comisión Federal de Comercio de EE. UU. que entró en vigor en octubre de 2024 prohíbe las reseñas falsas de consumidores generadas por IA, aunque ninguna aborda específicamente la publicación de libros.

El uso de libros físicos para entrenar IA también ha sido objeto de escrutinio, ya que los desarrolladores compran millones de títulos, los desarman, escanean sus páginas en conjuntos de datos de entrenamiento y descartan los originales. En agosto, una investigación siguió un envío de libros raros a una instalación de Amazon en Las Vegas, donde los trabajadores cortaron sus encuadernaciones y escanearon las páginas para datos de entrenamiento de IA. Amazon confirmó que compra libros a través de canales comerciales para la operación.

Daily Debrief Newsletter