W kontrolowanym eksperymencie oceniającym skuteczność recenzji naukowej wspomaganej przez AI badacz Paul Litvak współpracował z Claude firmy Anthropic, aby umieścić 100 znanych błędów w 10 otwartych artykułach z zakresu psychologii, a następnie przepuścił zmodyfikowane teksty przez kilka modeli AI z czołówki rynku oraz dwa komercyjne narzędzia do recenzji. Eksperyment wpisuje się w rosnące zainteresowanie workflowami recenzji wspieranymi przez AI w publikacjach akademickich, gdzie przeciążeni recenzenci i rosnąca liczba zgłoszeń zaostrzyły dyskusję o kontroli jakości.

Wyniki pokazały wyraźne różnice w skuteczności. Najlepszy pojedynczy system zidentyfikował 71 z 100 celowo wprowadzonych błędów, podczas gdy najsłabszy wykrył tylko 30. Jednak połączenie wyników wszystkich systemów podniosło odsetek wykrycia do 93 z 100 błędów — to istotna poprawa wynikająca z faktu, że różne modele tylko częściowo korelują w wykrywanych przez siebie błędach. Korzyści z łączenia wyników są zgodne z od dawna znaną zasadą w uczeniu maszynowym: łączenie zróżnicowanych klasyfikatorów często przewyższa pojedynczy model, ponieważ nieskorelowane błędy się znoszą. Litvak podkreślił, że łączenie wielu modeli to skuteczna strategia identyfikowania problemów w artykułach naukowych i zachęcał badaczy do sprawdzania manuskryptów za pomocą kilku modeli.

Siedem błędów umknęło każdemu testowanemu systemowi. Wszystkie siedem stanowiły pominięcia — przypadki, w których z artykułu usunięto informacje zamiast wprowadzić nowe błędy — co sugeruje, że narzędzia AI nadal lepiej wykrywają treści sfabrykowane lub zmienione niż brakujące informacje. To rozróżnienie ma znaczenie szczególnie w psychologii, dziedzinie, która mierzy się z szeroko udokumentowanym kryzysem replikacyjności, gdzie pominięte szczegóły dotyczące metod, analiz lub danych mogą utrudniać innym badaczom odtworzenie wyników.

Spośród ocenianych narzędzi Refine.ink wykrył więcej unikalnych błędów niż jakikolwiek inny pojedynczy system, choć Litvak zaznaczył, że korzystanie z niego jest kosztowne, co rodzi pytania o to, jak bariery cenowe mogą wpływać na to, którzy badacze i instytucje mają dostęp do najskuteczniejszej recenzji wspomaganej przez AI.

Litvak wskazał dwa ograniczenia badania: nie mierzył odsetka fałszywie dodatnich wskazań, a rozkład celowo wprowadzonych błędów może nie odzwierciedlać rozkładu błędów występujących w realnych artykułach. Brak danych o fałszywie dodatnich wynikach jest istotny, ponieważ wysokie wskaźniki fałszywych alarmów mogą zwiększać, a nie zmniejszać, obciążenie recenzentów, jeśli badacze muszą ręcznie przebierać w dużej liczbie oznaczonych, lecz nieprawidłowych uwag.

Aby wesprzeć dalsze badania, Litvak udostępnił publicznie na GitHubie artykuły, celowo wprowadzone błędy, wyniki modeli oraz pełny log eksperymentu: https://github.com/Dawes-Institute/ai-peer-review-benchmark. Wyraził nadzieję, że inni zbudują na tej pracy kompleksowy benchmark ewaluacyjny obejmujący różne dyscypliny akademickie.

Pełny tekst autorstwa Paula Litvaka jest dostępny tutaj. Warto zauważyć, że eksperyment nie wykorzystywał najnowszej generacji modeli AI, co sugeruje, że nowsze systemy mogą osiągać jeszcze wyższe wskaźniki wykrywania.

Wnioski zostały omówione na Marginal Revolution.