OpenAI ha iniziato a distribuire una filigrana statistica invisibile, nota come textGrain, sugli output di ChatGPT e Codex nei territori dell'Unione Europea. Annunciato il 5 ottobre, il lancio è presentato dall'azienda come una risposta diretta agli obblighi di trasparenza imposti dall'AI Act dell'UE. La mossa estende inoltre gli sforzi esistenti di OpenAI in materia di provenienza dei contenuti, che già consentono agli utenti di verificare se immagini e file audio sono stati prodotti con i suoi strumenti. L'azienda ha illustrato l'iniziativa in un annuncio ufficiale e in un post su X:

We're expanding our approach to content provenance to include text in response to EU regulatory requirements, while recognizing the significant limitations of current text watermarking technology. Our tools already help verify whether an image or audio file was created with our…

— OpenAI (@OpenAI) October 5, 2026

Come funziona textGrain

La tecnologia opera influenzando sottilmente la selezione delle parole del modello linguistico per creare una firma statistica nascosta. Un'applicazione di rilevamento complementare analizza quindi il testo per identificare tale firma. Secondo OpenAI, l'approccio non si basa su caratteri nascosti, spazi invisibili o segni di punteggiatura insoliti. Di conseguenza, le tipiche tattiche di elusione — come la rimozione di caratteri nascosti dal testo copiato — non elimineranno la filigrana, poiché la firma è intrecciata direttamente nei pattern linguistici stessi.

Quanto è resiliente la filigrana alle modifiche?

L'efficacia del rilevamento varia in modo significativo in base alla lunghezza del contenuto. OpenAI quantifica il testo utilizzando token — frammenti di parole interpretati dai modelli linguistici, con circa un token equivalente a tre quarti di una parola inglese standard. Durante le valutazioni interne, il sistema di rilevamento ha identificato con successo circa il 66% delle risposte non modificate contenenti circa 150 parole. Quando il contenuto raggiungeva circa 300 parole, il tasso di successo saliva a circa il 92%.

La modifica del contenuto ne mina rapidamente l'efficacia. Per passaggi di 300 parole, la sostituzione di una parola ogni 10 con un sinonimo riduceva la precisione di rilevamento dal 92% al 66%. Quando una parola su quattro veniva sostituita, il rilevamento crollava a appena il 17%. I risultati interni di OpenAI dimostrano che il sistema affrontaide significative una volta che il testo viene modificato, condensato o parafrasato — un vincolo coerente con le "significative limitazioni dell'attuale tecnologia di filigrana testuale" che l'azienda stessa ha riconosciuto al lancio.

L'azienda ha inoltre rilevato che l'implementazione della filigrana ha avuto un impatto minimo sulle metriche di prestazione del suo modello più recente, GPT-6 Astra.

Perché lo strumento di rilevamento resta privato

OpenAI ha scelto di non rendere immediatamente il rilevatore ampiamente disponibile. L'accesso sarà invece concesso esclusivamente a ricercatori verificati e organizzazioni specializzate. L'azienda precisa che un risultato di rilevamento positivo non rivela l'identità dell'utente, i prompt inseriti o i dettagli della conversazione.

Anche un esito negativo offre poca certezza. Contenuti brevi, modificati o tradotti possono eludere il rilevatore senza generare avvisi. Anche i contenuti generati da piattaforme di IA concorrenti non attiveranno il sistema, poiché esso cerca esclusivamente la firma proprietaria di OpenAI. OpenAI ha dichiarato esplicitamente che il mancato rilevamento di una filigrana non conferma la paternità umana.

I contenuti visivi e audio seguono un processo di verifica separato. Gli utenti possono già caricare questi tipi di file sulla piattaforma di verifica pubblicamente accessibile di OpenAI per cercarne la filigrana SynthID. Gli output testuali non dispongono per ora di un controllo pubblico equivalente, poiché l'accesso al rilevatore resta confinato alle organizzazioni verificate.

Ambito regionale e contesto normativo

Per i territori al di fuori dell'Unione Europea, la filigrana di ChatGPT rimane disattivata per impostazione predefinita per gli utenti standard. I client API di tutto il mondo, tuttavia, possono attivarla per modelli specifici tramite le preferenze del proprio progetto o organizzazione. In pratica, la filigrana è obbligatoria per gli output di ChatGPT all'interno dell'UE, mentre gli utenti API a livello globale possono attivarla volontariamente tramite le proprie impostazioni — predefinita per gli utenti dell'UE, opzionale altrove.

Il lancio segue l'applicazione da parte dell'UE delle disposizioni sull' trasparenza dell'AI Act, iniziata ad agosto. OpenAI ha posizionato la filigrana come parte della sua risposta continua ai requisiti normativi. L'azienda ha inoltre citato dati di settore più ampi nella sua dichiarazione: la ricerca di TRM Labs indica che lo sfruttamento criminale degli strumenti di IA è aumentato del 40% su base annua.

OpenAI non ha divulgato se e quando lo strumento di rilevamento potrebbe diventare pubblicamente disponibile. Come il sistema regge rispetto a modifiche, condensazioni e traduzioni nel mondo reale, e quante ampiezza di adesione otterranno gli operatori API fuori dall'UE, restano questioni aperte proseguendo il lancio. Per ora, l'implementazione nell'UE e l'accesso limitato per i gruppi di ricerca approvati e le istituzioni di esperti rappresentano l'attuale ambito dell'iniziativa.

Fonte: Blockonomi