63% książek religijnych na Amazonie prawdopodobnie zostało napisanych przez AI, wynika z badania
Najważniejsze informacje
- •Originality.ai oznaczyło 1,272 z 2,034 niedawno opublikowanych książek religijnych i dotyczących wierzeń na Amazonie, czyli 63%, jako prawdopodobnie napisane przez AI.
- •Najwyższy podejrzewany udział AI miały tytuły o czarach — 78% — a 53% sprawdzalnych twierdzeń w tych książkach uznano za potencjalnie fałszywe.
- •Badanie wskazuje na prawdopodobieństwo, a nie pewność, a narzędzia do wykrywania AI wcześniej dawały fałszywe trafienia, w tym sprzeczne wyniki przy analizie Deklaracji Niepodległości Stanów Zjednoczonych.
- •Od września 2023 roku Amazon wymaga od autorów Kindle Direct Publishing ujawniania treści generowanych przez AI i ograniczył przesyłanie do trzech nowych tytułów dziennie, bez wskazania, że takie ujawnienia są oznaczane dla kupujących.
- •Zasady ujawniania są zaostrzane także gdzie indziej, m.in. przez wymogi przejrzystości AI Act w UE i przepis FTC USA obowiązujący od października 2024 roku, zakazujący fałszywych recenzji generowanych przez AI, choć żaden z nich nie dotyczy bezpośrednio publikowania książek.
Prawie dwie trzecie książek religijnych próbkowanych na Amazonie prawdopodobnie zostało napisanych przez sztuczną inteligencję, wynika z nowego badania firmy zajmującej się wykrywaniem AI, Originality.ai, obejmującego ponad 2,000 niedawno opublikowanych tytułów.
W raporcie opublikowanym w środę firma wskazała 1,272 z 2,034 książek, czyli 63%, jako prawdopodobnie napisane przez AI w 14 kategoriach religijnych i związanych z wierzeniami. Badanie wykazało również, że 53% sprawdzalnych twierdzeń w książkach o czarach było potencjalnie fałszywych.
Najwyższy odsetek odnotowano w przypadku czarostwa, gdzie 78% książek próbkowanych z kategorii Amazon Wicca, Witchcraft & Paganism zaklasyfikowano jako prawdopodobnie napisane przez AI. Tytuły obejmowały takie tematy jak lecznicze kryształy, ziołowe remedia i oczyszczanie z „negatywnych energii”. Według autora raportu Michaela Fraimana wiele książek o czarach koncentrowało się właśnie na tych zagadnieniach.
„Można sobie wyobrazić idealnego klienta jako osobę szukającą rozwiązań, by uleczyć siebie, poprawić zdrowie psychiczne lub ‘odtruć się’ od powszechnych chemikaliów i narkotyków” — powiedział Fraiman Decrypt. „Te książki wiccańskie mogą odpowiadać na te obawy, nie podlegając żadnym standardom naukowym.”
Obawy te przypominają wcześniejsze ostrzeżenia dotyczące niefikcyjnych treści generowanych przez AI na Amazonie: w 2023 roku New York Mycological Society ostrzegło, że napisane przez AI przewodniki po zbieraniu grzybów sprzedawane na platformie mogą prowadzić czytelników do błędnej identyfikacji śmiertelnie trujących grzybów.
Hinduizm zajął drugie miejsce z wynikiem 76%, następnie taoizm z 74%, a pomiędzy nimi znalazły się sikhizm, buddyzm, islam, katolicyzm, protestantyzm, prawosławne chrześcijaństwo i judaizm. Mormonizm osiągnął 42%, ateizm 40%, a satanizm 22%. Badacze zastrzegli, że wielkości próbek znacznie różniły się między kategoriami.
Fraiman powiedział, że badacze analizowali opisy książek, biogramy autorów i próbki tekstu, klasyfikując treści z wynikiem 50 lub wyższym jako „Likely AI”. Zaznaczył jednak, że wyniki wskazują na prawdopodobieństwo, a nie dowód.
„Nie twierdzimy z całą pewnością, że książki zostały definitywnie napisane przez AI” — powiedział. „Nasz model określa prawdopodobieństwo, że coś zostało napisane przez AI, z pewnym stopniem pewności.”
Fraiman dodał, że badacze ręcznie sprawdzali także książki oznaczone jako prawdopodobnie wygenerowane przez AI.
„Na tym etapie nasz zespół badawczy potrafi odróżnić treści prawdopodobnie napisane przez AI od treści napisanych przez człowieka” — dodał.
Choć Fraiman wyraził pewność co do wyników, detektory AI dawały już wcześniej fałszywe trafienia i sprzeczne rezultaty.
W październiku 2024 roku test czterech detektorów AI dał sprzeczne wyniki przy analizie Deklaracji Niepodległości Stanów Zjednoczonych. ZeroGPT uznał tekst za wygenerowany przez AI w 97.93%, podczas gdy QuillBot uznał go za całkowicie napisany przez człowieka, a GPTZero wskazał 89% prawdopodobieństwa, że został napisany przez człowieka.
Niedawno, w marcu, Sąd Najwyższy Kolumbii odrzucił pismo procesowe po tym, jak detektory oznaczyły je jako wygenerowane przez AI. Gdy prawnik przesłał to samo orzeczenie sądu do tego samego detektora, zostało ono ocenione jako wygenerowane przez AI w 93%.
Amazon nie odpowiedział od razu na prośbę Decrypt o komentarz.
„Amazon jest świadomy, jak powszechne są treści pisane przez AI na swojej platformie, i korzysta z systemu honorowego, w którym autorzy sami deklarują, że ich praca została napisana przez AI” — powiedział, dodając, że firma nie podzieliła się swoimi ustaleniami z Amazonem. „Nie mamy danych o tym, ilu autorów faktycznie to ujawnia.”
Od września 2023 roku Amazon wymaga od autorów na platformie Kindle Direct Publishing informowania firmy, gdy treść książki została wygenerowana przez AI, a także ograniczył przesyłanie do trzech nowych tytułów dziennie, choć nie wskazał, by takie ujawnienia były oznaczane dla kupujących. Zasady ujawniania zaczęły być też zaostrzane gdzie indziej — unijny AI Act wprowadza wymogi przejrzystości przy oznaczaniu treści generowanych przez AI, a przepis Federalnej Komisji Handlu USA, który wszedł w życie w październiku 2024 roku, zakazuje fałszywych recenzji konsumenckich generowanych przez AI — choć żaden z nich nie odnosi się konkretnie do publikowania książek.
Wykorzystywanie fizycznych książek do trenowania AI również budziło kontrowersje, ponieważ deweloperzy kupują miliony tytułów, rozbierają je na części, skanują ich strony do zbiorów treningowych i wyrzucają oryginały. W sierpniu śledztwo prześledziło transport rzadkich książek do obiektu Amazon w Las Vegas, gdzie pracownicy odcinali oprawy i skanowali strony na potrzeby danych treningowych AI. Amazon potwierdził, że do tej operacji kupuje książki za pośrednictwem kanałów komercyjnych.
