63% der religiösen Bücher auf Amazon wurden wahrscheinlich von KI geschrieben, ergibt Studie
Wichtige Erkenntnisse
- •Originality.ai stufte 1.272 von 2.034 kürzlich veröffentlichten religiösen und glaubensbezogenen Büchern auf Amazon, also 63%, als wahrscheinlich von KI geschrieben ein.
- •Titel zur Hexerei wiesen mit 78% die höchste vermutete KI-Rate auf; 53% der überprüfbaren Behauptungen in diesen Büchern wurden als potenziell falsch bewertet.
- •Die Studie zeigt eine Wahrscheinlichkeit und keinen Beweis; KI-Erkennungstools haben zuvor Fehlalarme geliefert, darunter widersprüchliche Ergebnisse bei der Analyse der U.S. Declaration of Independence.
- •Seit September 2023 verlangt Amazon von Autoren auf Kindle Direct Publishing, KI-generierte Inhalte offenzulegen, und begrenzt Uploads auf drei neue Titel pro Tag, ohne dass solche Angaben nach außen als solche gekennzeichnet werden.
- •Anderswo werden Offenlegungsregeln strenger, darunter Transparenzanforderungen des EU AI Act und ein seit Oktober 2024 geltendes US-FTC-Verbot für KI-generierte Fake-Bewertungen, auch wenn sich keines speziell auf Buchveröffentlichungen bezieht.
Fast zwei Drittel der religiösen Bücher, die auf Amazon stichprobenartig untersucht wurden, wurden laut einer neuen Studie des KI-Erkennungsunternehmens Originality.ai, die mehr als 2.000 kürzlich veröffentlichte Titel umfasste, wahrscheinlich von künstlicher Intelligenz geschrieben.
In einem am Mittwoch veröffentlichten Bericht stufte das Unternehmen 1.272 von 2.034 Büchern, also 63%, in 14 religiösen und glaubensbezogenen Kategorien als vermutlich von KI verfasst ein. Die Studie ergab außerdem, dass 53% der überprüfbaren Behauptungen in Büchern über Hexerei potenziell falsch waren.
Hexerei wies mit 78% die höchste Rate auf; von Amazon's Wicca, Witchcraft & Paganism-Kategorie entnommene Bücher wurden als wahrscheinlich KI-generiert klassifiziert. Die Titel behandelten Themen wie Heilkristalle, pflanzliche Heilmittel und das Reinigen von "negativen Energien." Laut dem Studienautor Michael Fraiman konzentrierten sich viele der Hexerei-Bücher auf diese Themen.
"Man kann sich den idealen Kunden als jemanden vorstellen, der nach Lösungen sucht, um sich selbst zu heilen, seine psychische Gesundheit zu verbessern oder von alltäglichen Chemikalien und Drogen zu 'detoxen'," sagte Fraiman gegenüber Decrypt. "Diese Wicca-Bücher können diese Anliegen adressieren, ohne an einen wissenschaftlichen Standard gebunden zu sein."
Die Sorge erinnert an frühere Warnungen vor KI-generierten Sachbüchern auf Amazon: 2023 warnte die New York Mycological Society, dass auf der Plattform verkaufte, von KI geschriebene Pilzbestimmungsführer Leser dazu verleiten könnten, tödliche Pilze falsch zu identifizieren.
Der Hinduismus rangierte mit 76% auf Platz zwei, gefolgt vom Taoismus mit 74%, während Sikhismus, Buddhismus, Islam, Katholizismus, Protestantismus, orthodoxes Christentum und Judentum dazwischen lagen. Mormonismus lag bei 42%, Atheismus bei 40% und Satanismus bei 22%. Die Forscher warnten, dass die Stichprobengrößen zwischen den Kategorien erheblich variierten.
Fraiman sagte, die Forscher hätten Buchbeschreibungen, Autorenbiografien und Textproben analysiert und Texte mit einer Bewertung von 50 oder höher als "Likely AI" eingestuft. Er betonte jedoch, dass die Ergebnisse eine Wahrscheinlichkeit und keinen Beweis darstellen.
"Wir erheben keinen Anspruch auf Gewissheit darüber, ob Bücher definitiv von KI geschrieben wurden," sagte er. "Unser Modell bestimmt mit einem gewissen Grad an Sicherheit die Wahrscheinlichkeit, dass etwas von KI geschrieben wurde."
Fraiman merkte an, dass die Forscher außerdem stichprobenartig Bücher überprüften, die als wahrscheinlich KI-generiert markiert worden waren.
"Zu diesem Zeitpunkt kann unser Forschungsteam den Unterschied zwischen wahrscheinlich von KI geschriebenen Inhalten und von Menschen geschriebenen Inhalten erkennen," fügte er hinzu.
Obwohl Fraiman sich der Ergebnisse sicher zeigte, haben KI-Detektoren Fehlalarme und widersprüchliche Resultate produziert. Im Oktober 2024 lieferte ein Test von vier KI-Detektoren widersprüchliche Ergebnisse bei der Analyse der U.S. Declaration of Independence. ZeroGPT stufte den Text als zu 97.93% von KI generiert ein, während QuillBot ihn vollständig als von Menschen geschrieben bewertete und GPTZero ihm eine Wahrscheinlichkeit von 89% zuschrieb, menschlich verfasst zu sein.
In jüngerer Zeit lehnte im März der Oberste Gerichtshof Kolumbiens eine rechtliche Eingabe ab, nachdem Detektoren sie als KI-generiert markiert hatten. Als ein Anwalt das Urteil des Gerichts demselben Detektor vorlegte, wurde es als zu 93% von KI generiert bewertet.
Amazon reagierte zunächst nicht auf eine Bitte um Stellungnahme von Decrypt.
"Amazon ist sich bewusst, wie verbreitet KI-generierte Inhalte auf seiner Plattform sind, und verwendet das Ehrenprinzip, damit Autoren ihre Werke selbst als KI-generiert kennzeichnen," sagte er und fügte hinzu, dass das Unternehmen seine Erkenntnisse nicht mit Amazon geteilt habe. "Wir haben keine Daten darüber, wie viele Autoren dies tatsächlich offenlegen."
Der Einsatz physischer Bücher zum Training von KI steht ebenfalls unter Beobachtung, da Entwickler Millionen von Titeln kaufen, sie auseinandernehmen, ihre Seiten in Trainingsdatensätze scannen und die Originale entsorgen.
Im August verfolgte eine Untersuchung eine Lieferung seltener Bücher zu einer Amazon-Einrichtung in Las Vegas, wo Mitarbeiter die Einbände entfernten und die Seiten für KI-Trainingsdaten scannten. Amazon bestätigte, dass das Unternehmen für diesen Vorgang Bücher über kommerzielle Kanäle kauft.
