AI检测公司Originality.ai发布的一项新研究覆盖了2,000多种近期出版的书籍。研究显示,在亚马逊上抽样的宗教类图书中,近三分之二可能由人工智能撰写。

在周三发布的一份报告中,该公司在14个宗教与信仰类别中,将2,034本图书中的1,272本(即63%)标记为疑似AI撰写。研究还发现,巫术类图书中53%可核查的事实性陈述可能为虚假信息。

巫术类比例最高:从亚马逊"Wicca, Witchcraft & Paganism"(威卡、巫术与异教)类别中抽样的图书有78%被归类为疑似AI撰写。这些书籍的主题包括疗愈水晶、草药疗法以及净化"负能量"。报告作者Michael Fraiman表示,许多巫术类图书都聚焦于这些主题。

"可以想象,理想的客户是那些寻求自我疗愈、改善心理健康,或希望从常见化学物质和药物中'排毒'的人,"Fraiman告诉Decrypt。"这些威卡类图书可以回应这些关切,而无需遵循任何科学标准。"

这一担忧呼应了此前针对亚马逊上AI生成非虚构类图书的警告:2023年,纽约菌物学会曾告诫称,在该平台上销售的AI撰写蘑菇采集指南可能导致读者误认致命蘑菇。

印度教类以76%位居第二,道教类为74%,锡克教、佛教、伊斯兰教、天主教、新教、东正教和犹太教则介于两者之间。摩门教为42%,无神论为40%,撒旦教为22%。研究人员提醒,各类别之间的样本量差异显著。

Fraiman说,研究人员分析了图书简介、作者简介和样章,将得分达到50分或以上的文本归类为"疑似AI"。但他提醒,这些结果反映的是可能性,而非证明。

"我们并不声称能够确定某本书绝对是由AI撰写的,"他表示。"我们的模型是在一定的确定性程度上判断内容由AI撰写的可能性。"

Fraiman指出,研究人员还对被标记为疑似AI生成的图书进行了抽查。

"到目前为止,我们的研究团队已经能够区分疑似AI撰写的内容与人类撰写的内容,"他补充道。

尽管Fraiman对研究结果表示有信心,但AI检测工具此前曾出现误报和相互矛盾的结果。2024年10月,一项对四款AI检测工具的测试在分析美国《独立宣言》时得出了相互矛盾的结果:ZeroGPT判定该文本有97.93%由AI生成,QuillBot判定其完全由人类撰写,而GPTZero则给出89%为人类撰写的概率。

更近期的今年3月,哥伦比亚最高法院在检测工具将一份法律文书标记为AI生成后驳回了该文书。当一名律师将该法院的裁决书提交给同一检测工具时,后者评定其为93%由AI生成。

亚马逊未立即回应Decrypt的置评请求。

"亚马逊清楚AI撰写内容在其平台上有多普遍,并采用诚信制度,让作者自行申报其作品为AI撰写,"Fraiman说,并补充称该公司并未与亚马逊分享其研究结果。"我们没有关于实际有多少作者进行申报的数据。"

自2023年9月起,亚马逊要求其Kindle Direct Publishing平台的作者在图书内容由AI生成时告知公司,并将每日新上传图书数量上限设为三本,但亚马逊并未表明此类披露信息会对买家进行标注。其他地区的披露规则已开始收紧——欧盟《人工智能法案》增加了对标记AI生成内容的透明度要求,美国联邦贸易委员会于2024年10月生效的一项规定禁止AI生成的虚假消费者评论——不过两者均未专门针对图书出版。

实体书籍被用于AI训练同样引发审视:开发者购买数百万册图书,将其拆解,把书页扫描进训练数据集,然后丢弃原件。今年8月,一项调查追踪到一批珍稀书籍被运往亚马逊位于拉斯维加斯的一处设施,工人在那里拆除书脊装订,并将书页扫描用于AI训练数据。亚马逊证实,其为该业务通过商业渠道采购图书。