In einem kontrollierten Experiment zur Überprüfung der Wirksamkeit KI-gestützter Peer-Review-Verfahren arbeitete der Forscher Paul Litvak mit Anthropics Claude zusammen, um 100 bekannte Fehler in 10 frei zugängliche Psychologie-Arbeiten einzuschleusen. Anschließend wurden die modifizierten Arbeiten durch mehrere fortschrittliche KI-Modelle und zwei kommerzielle KI-Review-Tools geprüft. Das Experiment spiegelt ein wachsendes Interesse an KI-gestützten Review-Workflows im wissenschaftlichen Verlagswesen wider, wo überlastete Gutachter und steigende Einreichungszahlen die Debatten über Qualitätskontrolle verschärft haben.

Die Ergebnisse zeigten erhebliche Leistungsunterschiede. Das beste einzelne System identifizierte 71 von 100 eingeschleusten Fehlern, während das schwächste System nur 30 erkannte. Durch die Zusammenführung aller Systemausgaben stieg die Erkennungsrate jedoch auf 93 von 100 Fehlern – eine deutliche Verbesserung, die darauf zurückzuführen ist, dass verschiedene Modelle nur teilweise darin korrelieren, welche Fehler sie erkennen. Diese Erkenntnis steht im Einklang mit einem bewährten Prinzip aus dem maschinellen Lernen: Die Kombination unterschiedlicher Klassifikatoren schneidet oft besser ab als ein einzelnes Modell, da unkorrelierte Fehler sich gegenseitig aufheben. Litvak betonte, dass das Ensembling mehrerer Modelle eine wirkungsvolle Strategie zur Identifizierung von Problemen in wissenschaftlichen Arbeiten ist, und ermutigte Forscher, ihre Manuskripte gegen mehrere Modelle zu prüfen.

Sieben Fehler entgingen allen getesteten Systemen. Alle sieben handelten sich um Auslassungen – Fälle, in denen Informationen aus einer Arbeit gelöscht wurden, anstatt neue Fehler einzufügen –, was darauf hindeutet, dass KI-Tools besser darin sind, erfundene oder veränderte Inhalte zu erkennen, als fehlendes Material aufzuspüren. Diese Unterscheidung ist insbesondere für die Psychologie von Bedeutung, einem Fachgebiet, das mit einer weit dokumentierten Replikationskrise kämpft, bei der weggelassene Details zu Methoden, Analysen oder Daten die Fähigkeit anderer Forscher untergraben können, Ergebnisse zu reproduzieren.

Unter den evaluierten Tools trug Refine.ink mehr einzigartige Funde bei als jedes andere einzelne System, obwohl Litvak anmerkte, dass die Nutzung teuer ist. Dies wirft Fragen auf, wie Kostenbarrieren beeinflussen könnten, welche Forscher und Einrichtungen Zugang zum effektivsten KI-gestützten Review erhalten.

Litvak räumte zwei Einschränkungen der Studie ein: Er maß keine Fehlalarmraten, und die Verteilung der eingeschleusten Fehler entspricht möglicherweise nicht der Fehlerverteilung in realen Arbeiten. Das Fehlen von Daten zu falsch-positiven Ergebnissen ist erwähnenswert, da hohe Fehlalarmraten die Arbeitslast der Gutachter eher erhöhen als verringern könnten, wenn Forscher große Mengen markierter, aber falscher Kritikpunkte manuell sichten müssen.

Zur Unterstützung weiterer Forschung veröffentlichte Litvak die Arbeiten, eingeschleusten Fehler, Modellausgaben und das vollständige Experimentprotokoll öffentlich auf GitHub: https://github.com/Dawes-Institute/ai-peer-review-benchmark. Er äußerte die Hoffnung, dass andere auf dieser Arbeit aufbauen, um einen umfassenden Evaluations-Benchmark über verschiedene wissenschaftliche Disziplinen hinweg zu schaffen.

Der vollständige Bericht von Paul Litvak ist hier verfügbar. Bemerkenswerterweise verwendete das Experiment nicht die neueste Generation von KI-Modellen, was darauf hindeutet, dass neuere Systeme möglicherweise noch höhere Erkennungsraten erzielen könnten.

Die Ergebnisse wurden auf Marginal Revolution hervorgehoben.