AI検出企業Originality.aiが2,000冊超の最近出版された書籍を対象に実施した新しい調査によると、Amazonでサンプリングされた宗教書の約3分の2が人工知能(AI)によって執筆された可能性があるという。

同社が水曜日に発表した報告書では、14の宗教・信仰カテゴリーにわたる2,034冊のうち1,272冊、すなわち63%がAI執筆の可能性があると判定された。また、魔術関連書籍では検証可能な記述の53%が誤りである可能性があることも明らかになった。

最も割合が高かったのは魔術で、Amazonの「Wicca, Witchcraft & Paganism(ウィッカ・魔術・異教)」カテゴリーからサンプリングされた書籍の78%がAI執筆の可能性があると分類された。これらの書籍は、ヒーリングクリスタル、ハーブ療法、「ネガティブなエネルギー」の浄化といったテーマを扱っていた。報告書の著者であるMichael Fraiman氏によると、魔術関連書籍の多くはこうしたテーマに焦点を当てていたという。

「理想的な顧客像として、自分自身を癒したり、メンタルヘルスを改善したり、ありふれた化学物質や薬物から『デトックス』したりする解決策を求めている人物を思い浮かべることができる」とFraiman氏はDecryptに語った。「これらのウィッカの書籍は、科学的な基準に縛られることなく、こうした懸念に応えることができる」

この懸念は、Amazon上のAI生成ノンフィクションに関する以前の警告を彷彿とさせる。2023年には、New York Mycological Society(ニューヨーク菌類学会)が、同プラットフォームで販売されていたAI執筆のキノコ採集ガイドによって、読者が致死性のキノコを誤って识别するリスクがあると警告していた。

ヒンドゥー教は76%で2位、道教が74%でそれに続き、シク教、仏教、イスラム教、カトリック、プロテスタント、正教会、ユダヤ教はその間に位置した。モルモン教は42%、無神論は40%、サタニズムは22%だった。研究者らは、カテゴリー間でサンプルサイズが大きく異なることに注意を促した。

Fraiman氏によると、研究者らは書籍の説明文、著者の経歴、サンプルを分析し、50以上のスコアを獲得したテキストを「AIの可能性あり(Likely AI)」に分類したという。ただし、同氏は結果は証明ではなく可能性を示すものだと注意を促した。

「書籍が確実にAI執筆であるかどうかについて、断定的な主張はしていない」と同氏は述べた。「我々のモデルは、あるものがどの程度の確実性をもってAI執筆であるかの可能性を判定するものだ」

また、AI生成の可能性があると判定された書籍の抜き取り検査も実施したとFraiman氏は指摘した。

「この段階で、我々の研究チームはAI執筆の可能性があるコンテンツと人間が執筆したコンテンツの違いを見分けられる」と同氏は付け加えた。

Fraiman氏は調査結果に自信を示した一方、AI検出ツールはこれまでに偽陽性や矛盾する結果を生み出してきた。

2024年10月には、4つのAI検出ツールを使ったテストで米国の独立宣言を分析したところ、矛盾する結果が生じた。ZeroGPTはこのテキストを97.93%AI生成と判定した一方、QuillBotは完全に人間の執筆と判定し、GPTZeroは89%の確率で人間の執筆であるとした。

より最近の3月には、コロンビア最高裁判所が、検出ツールによってAI生成と判定された訴状を却下した。弁護士が同裁判所の判決文を同じ検出ツールに提出したところ、93%AI生成と判定された。

AmazonはDecryptのコメント依頼に直ちには応答しなかった。

「Amazonは、自社プラットフォーム上でAI執筆コンテンツがどれほど一般的であるかを認識しており、著者が自身の作品をAI執筆として自己申告する名誉制度(honour system)を採用している」とFraiman氏は述べ、同社は調査結果をAmazonと共有していないと付け加えた。「実際に何人の著者がそれを開示しているのかについてのデータは我々にはない」

2023年9月以降、AmazonはKindle Direct Publishingプラットフォームの著者に対し、書籍のコンテンツがAI生成である場合に同社へ申告することを義務付けており、新規タイトルのアップロードも1日3冊までに制限している。ただし、こうした開示が購入者向けに表示されているかについては示していない。その他の地域では開示規制の強化が始まっている。EUのAI規制法(AI Act)はAI生成コンテンツの表示に関する透明性要件を追加しており、2024年10月に発効した米連邦取引委員会(FTC)の規則はAI生成の偽の消費者レビューを禁止している。ただし、いずれも書籍出版を具体的に扱うものではない。

また、物理的な書籍をAIの訓練に利用することも注目を集めている。開発企業が数百万冊の書籍を購入し、分解してページをスキャンして訓練データセットに取り込み、原本を廃棄しているためだ。8月には、調査により、貴重書の輸送がラスベガスのAmazon施設まで追跡され、そこで作業員が製本を切り離し、AI訓練用データとしてページをスキャンしていたことが明らかになった。Amazonは、この作業のために商業ルートを通じて書籍を購入していることを認めた。