I rilevatori di testo AI influenzano già decisioni di grande rilievo: chi viene ammesso in una scuola, se un articolo supera la peer review e quali post restano online. Eppure la maggior parte di questi sistemi non sa spiegare nemmeno una delle decisioni che prende.

Un team di ricerca di Google DeepMind e dell'Università della Pennsylvania ha presentato un metodo che trasforma un rilevatore opaco in uno che ragiona con concetti leggibili da un essere umano — e il costo in termini di accuratezza è sorprendentemente ridotto.

L'articolo, intitolato "Building Auditable AI Text Detectors with Sparse Autoencoders", è stato sottoposto il 21 ottobre 2026. È stato accettato a EMNLP 2026, uno dei principali convegni di ricerca sul processing del linguaggio naturale.

Aprire la scatola nera

I ricercatori descrivono un noto compromesso. I rilevatori più performanti sono classificatori neurali fine-tuned la cui logica interna è essenzialmente sigillata. Le alternative sono strumenti trasparenti basati su caratteristiche stilometriche e linguistiche, come i pattern nella scelta delle parole e nella struttura delle frasi. Questi si possono ispezionare — ma secondo l'articolo restano indietro rispetto ai modelli neurali con ampi margini.

La risposta del team è una pipeline che conserva la conoscenza del modello neurale traducendola in una forma interpretabile. Il processo parte da un rilevatore fine-tuned basato su Gemma-2-2B, un modello compatto e disponibile apertamente della famiglia Gemma di Google. I ricercatori applicano quindi autoencoder sparsi, o SAE, alle attivazioni del residual stream del modello.

Man mano che un modello elabora il testo, le informazioni passano lungo un canale interno chiamato residual stream. Questi segnali sono densi e intcciati, con molte idee fuse in ogni numero. Un autoencoder sparso li districa, imparando a rappresentare le stesse informazioni come un ampio insieme di caratteristiche individuali, di cui solo poche si attivano per un dato input.

La pipeline etichetta quindi queste caratteristiche automaticamente, assegnando a ciascuna una descrizione leggibile dall'umano. Vengono conservate solo quelle che superano una soglia di fedeltà globale prestabilita, ossia l'etichetta deve corrispondere realmente a ciò che la caratteristica fa. Le caratteristiche superstiti alimentano un classificatore leggero di regressione logistica, in cui ogni input riceve un peso — rendendo possibile vedere esattamente quanto ciascuno ha contribuito al verdetto finale.

Cosa dicono i numeri

Sui dati in-domain, ossia testi simili a quelli su cui i modelli erano stati addestrati, il classificatore interpretabile ha ottenuto un F1 di 96,8 — un punteggio standard di machine learning che combina precisione e richiamo in un singolo numero, dove 100 rappresenta il punteggio perfetto. Il rilevatore black-box originale ha totalizzato 98,0, con un divario di appena 1,2 punti tra i due.

Il risultato più sorprendente è arrivato sui dati out-of-distribution, che coprono testi diversi dal set di addestramento — lo scenario che rispecchia maggiormente l'uso reale, in cui il testo sottoposto non sempre assomiglierà ai dati di addestramento. In quel caso il nuovo modello ha registrato un F1 di 92,2, mentre la baseline black-box è scesa a 75,2, un vantaggio di 17 punti per la versione trasparente.

Il codice e i modelli addestrati sono disponibili pubblicamente su GitHub nel repository google-deepmind/detectorscope.

Perché l'auditing è il vero tema

L'articolo colloca la sua motivazione nei contesti in cui questi strumenti sono già in uso: peer review, istruzione, ammissioni, giornalismo e moderazione dei contenuti. In ciascun caso, l'output di un rilevatore può incidere direttamente su una persona.

Un rilevatore verificabile cambia la conversazione. Invece di "il sistema dice che questo testo è stato scritto da un'AI", un revisore può indicare i concetti specifici che hanno determinato il giudizio e valutare se reggono. Questo offre inoltre a chi subisce la decisione qualcosa di contestabile.

Restano dei limiti. Il metodo dipende dall'etichettatura automatica delle caratteristiche, quindi la qualità di queste etichette pone un tetto a quanto le spiegazioni sono realmente significative. La soglia di fedeltà è pensata per filtrare le etichette deboli, ma test indipendenti sul codice pubblico mostreranno quanto regga tra i vari domini. Resta infine da verificare se l'approccio sia scalabile oltre il rilevatore Gemma-2-2B usato nello studio.