AI-tekst detectoren beïnvloeden al belangrijke beslissingen: wie wordt toegelaten tot een opleiding, of een paper peer review overleeft en welke berichten online blijven. Toch kan het merendeel van deze systemen geen enkele beslissing verklaren.

Een onderzoeksteam van Google DeepMind en de University of Pennsylvania heeft een methode gepresenteerd die een ondoorzichtige detector omvormt tot een die redeneert in concepten die een mens kan lezen — en het verlies aan nauwkeurigheid is verrassend klein.

Het paper, getiteld “Building Auditable AI Text Detectors with Sparse Autoencoders,” werd op 21 oktober 2026 ingediend. Het is geaccepteerd op EMNLP 2026, een van de belangrijkste congressen voor onderzoek naar natuurlijke taalverwerking.

De zwarte doos openen

De onderzoekers beschrijven een bekende afweging. De best presterende detectoren zijn fijnafgestelde neurale classifiers waarvan de interne logica in feite afgesloten is. De alternatieven zijn transparante hulpmiddelen gebaseerd op stilometrische en taalkundige kenmerken, zoals patronen in woordkeuze en zinsstructuur. Die zijn te inspecteren — maar volgens het paper blijven ze met grote marge achter bij de neurale modellen.

Het antwoord van het team is een pipeline die de kennis van het neurale model behoudt maar deze vertaalt naar een interpreteerbare vorm. Het proces begint met een fijnafgestelde detector gebouwd op Gemma-2-2B, een compact en openlijk beschikbaar model uit de Gemma-familie van Google. Vervolgens passen de onderzoekers sparse autoencoders, of SAE's, toe op de activaties van de residual stream van het model.

Terwijl een model tekst verwerkt, stroomt informatie door een intern kana dat de residual stream heet. Die signalen zijn dicht en verweven, met veel ideeën gemengd in elk getal. Een sparse autoencoder ontknot ze en leert dezelfde informatie weer te geven als een grote verzameling individuele kenmerken, waarvan er voor elke invoer slechts enkele activeren.

De pipeline labelt deze kenmerken vervolgens automatisch, waarbij elk een door mensen leesbare omschrijving krijgt. Alleen kenmerken die een vastgestelde globale fiducialiteitsdrempel halen, worden behouden — het label moet dus daadwerkelijk matchen met wat het kenmerk doet. De overgebleven kenmerken voeden een lichtgewicht logistische-regressieclassifier, waarbij elke invoer een gewicht krijgt — zodat precies zichtbaar is hoeveel elke factor heeft bijgedragen aan het eindoordeel.

Wat de cijfers laten zien

Op in-domain data, dus tekst die lijkt op waarmee de modellen zijn getraind, behaalde de interpreteerbare classifier een F1-score van 96.8 — een standaard machinelearningscore die precisie en recall samenvoegt tot één getal, waarbij 100 een perfecte score is. De oorspronkelijke black-boxdetector scoorde 98.0, een verschil van slechts 1,2 punt.

De opvallendste uitslag kwam op out-of-distribution data, die tekst omvat die afwijkt van de trainingsset — het scenario dat het dichtst bij de praktijk in de buurt komt, waarin ingediende tekst niet altijd op de trainingsdata lijkt. Daar behaalde het nieuwe model een F1-score van 92.2, terwijl de black-boxbaseline zakte naar 75.2 — een voorsprong van 17 punten voor de transparante versie.

De code en getrainde modellen zijn publiek beschikbaar op GitHub onder de google-deepmind/detectorscope-repository.

Waarom auditbaarheid de echte kern is

Het paper kaderet zijn motivatie rond de omgevingen waarin deze hulpmiddelen al worden gebruikt: peer review, onderwijs, toelatingen, journalistiek en contentmoderatie. In elk van deze gevallen kan de uitkomst van een detector direct gevolgen hebben voor een persoon.

Een auditbare detector verandert het gesprek. In plaats van "het systeem zegt dat dit door AI is geschreven" kan een reviewer verwij naar de specifieke concepten die tot het oordeel leidden en beoordelen of die standhouden. Dat geeft ook de persoon aan de ontvangende kant iets om tegenin te gaan.

Er blijven beperkingen. De methode is afhankelijk van automatische kenmerklabeling, dus de kwaliteit van die labels bepaalt de bovengrens van hoe zinvol de verklaringen werkelijk zijn. De fiducialiteitsdrempel is ontworpen om zwakke labels te filteren, maar onafhankelijke tests op de openbare code zullen uitwijzen hoe goed dat over domeinen heen standhoudt. Het is ook nog de vraag of de aanpak opschaalt voorbij de Gemma-2-2B-detector die in de studie is gebruikt.