Towards AI veröffentlichte einen am 27. Juli 2026 aktualisierten Artikel, der untersucht, warum KI-generierte Texte weiterhin schwer zuverlässig zu erkennen sind, obwohl Schulen, Universitäten und andere Institutionen weiterhin nach verlässlichen Erkennungstools suchen. Der Beitrag erschien ursprünglich auf Towards AI und ist auch auf Medium verfügbar.

Der Artikel konzentriert sich auf die Klassifikatoren, Wasserzeichen und theoretischen Grenzen hinter der KI-Texterkennung. Er berichtet, dass die Nachfrage nach zuverlässigen Detektoren Ende 2022 entstand, als KI-Systeme in der Lage wurden, vollständige Essays und Artikel ohne direkte menschliche Ausarbeitung zu schreiben. Bildungseinrichtungen und andere Organisationen begannen daraufhin, nach Werkzeugen zu suchen, die maschinell erzeugte Texte von menschlicher Arbeit unterscheiden können, insbesondere in Bereichen, in denen Urheberschaft akademische, berufliche oder politische Folgen hat.

Dem Artikel zufolge stützten sich frühe KI-Textdetektoren häufig auf einfache Maße der Vorhersagbarkeit, etwa Perplexität. Neuere Systeme verwenden trainierte transformerbasierte Klassifikatoren, die Text in einen Einbettungsraum überführen und eine Wahrscheinlichkeit dafür ausgeben, ob eine Passage „KI“ oder „menschlich“ ist. Der Artikel weist jedoch darauf hin, dass selbst diese neueren Modelle keine klare Regel liefern, mit der sich KI-generierte Texte eindeutig von menschlich verfassten Texten trennen lassen.

Der Beitrag argumentiert, dass gemeldete Verbesserungen bei der Detektorleistung stark von der Auswahl der Benchmarks und den Trainingsmethoden abhängen können. Diese Entscheidungen können Abkürzungen und Verzerrungen einführen, wodurch Detektoren in kontrollierten Tests stärker erscheinen, als sie es in praktischen Einsatzszenarien sind. In der realen Nutzung, so der Artikel, versagen Detektoren weiterhin unter veränderten Schreibbedingungen und bei adversarialen Angriffen, darunter Paraphrasierung und durch Detektoren gesteuertes Umschreiben.

Der Autor stellt außerdem ein theoretisches Ergebnis einer „Obergrenze“ vor. Dem Artikel zufolge ist zuverlässige Erkennung grundlegend dadurch begrenzt, wie ähnlich die Verteilungen menschlicher und KI-generierter Texte werden können. Je flüssiger KI-generierte Texte werden und je näher sie an menschliches Schreiben heranrücken, desto eher können Detektoren auf eine Leistung gedrückt werden, die dem Zufallsraten ähnelt. Diese Einordnung macht das Problem größer als den Vergleich einzelner Produkte: Selbst verbesserte Klassifikatoren könnten an Grenzen stoßen, wenn die von ihnen bewerteten Texte keine stabilen, erkennbaren Unterschiede mehr enthalten.

Der Artikel beschreibt zudem Praxistests mit einem kommerziellen Detektor. In diesen Tests fand der Autor überraschende falsch positive Ergebnisse bei menschlichen Texten sowie unerwartete Resultate bei gemischten Texten, die offensichtlich wirkten. Das Fazit lautet, dass Institutionen Detektorwerte nur als schwache Signale und nicht als Nachweis der Urheberschaft behandeln sollten, weil das zugrunde liegende Erkennungsproblem wahrscheinlich nicht dauerhaft lösbar ist.