Towards AI ha pubblicato un articolo aggiornato al 27 luglio 2026 che esamina perché i testi generati dall’AI restano difficili da identificare in modo affidabile, anche mentre scuole, università e altre istituzioni continuano a cercare strumenti di rilevamento attendibili. Il pezzo è stato originariamente pubblicato su Towards AI ed è disponibile anche su Medium.

L’articolo si concentra sui classificatori, sui watermark e sui limiti teorici alla base del rilevamento dei testi generati dall’AI. Afferma che la domanda di rilevatori affidabili è emersa alla fine del 2022, quando i sistemi di AI sono diventati capaci di scrivere interi saggi e articoli senza una composizione umana diretta. Le istituzioni educative e altre organizzazioni hanno quindi iniziato a cercare strumenti in grado di distinguere la scrittura generata da macchine dal lavoro umano, soprattutto in contesti in cui la paternità del testo comporta conseguenze accademiche, professionali o normative.

Secondo l’articolo, i primi rilevatori di testi AI si basavano spesso su semplici misure di prevedibilità, come la perplexity. I sistemi più recenti usano classificatori addestrati basati su transformer, che convertono il testo in uno spazio di embedding e restituiscono una stima probabilistica del fatto che un passaggio sia “AI” o “umano”. Tuttavia, l’articolo osserva che neppure questi modelli più nuovi offrono una regola chiara in grado di separare in modo decisivo la scrittura generata dall’AI da quella prodotta da autori umani.

Il pezzo sostiene che i miglioramenti dichiarati nelle prestazioni dei rilevatori possono dipendere in larga misura dalla selezione dei benchmark e dai metodi di addestramento. Queste scelte possono introdurre scorciatoie e bias, facendo apparire i rilevatori più efficaci nei test controllati di quanto non siano nelle applicazioni pratiche. Nell’uso reale, afferma l’articolo, i rilevatori continuano a fallire di fronte a condizioni di scrittura mutevoli e ad attacchi avversari, tra cui la parafrasi e la riscrittura guidata dal rilevatore.

L’autore presenta inoltre un risultato teorico di “tetto massimo”. L’articolo afferma che il rilevamento affidabile è fondamentalmente vincolato da quanto le distribuzioni dei testi umani e di quelli generati dall’AI possano diventare simili. Man mano che la scrittura generata dall’AI diventa più fluida e più vicina a quella umana, i rilevatori possono essere spinti verso prestazioni simili a un’ipotesi casuale. Questa impostazione rende la questione più ampia di qualsiasi confronto tra singoli prodotti: anche classificatori migliorati possono incontrare limiti se i testi che valutano non contengono più differenze stabili e rilevabili.

L’articolo descrive inoltre test pratici condotti con un rilevatore commerciale. In quei test, l’autore ha rilevato falsi positivi sorprendenti su testi scritti da persone, oltre a risultati inattesi per testi misti che sembravano evidenti. La conclusione è che le istituzioni dovrebbero trattare i punteggi dei rilevatori solo come segnali deboli, non come prova della paternità del testo, perché il problema di fondo del rilevamento probabilmente non è risolvibile in modo permanente.