Anthropic ha iniziato a incorporare watermark invisibili nel testo prodotto dai suoi nuovi modelli Claude, applicando la misura a livello globale mentre l'azienda si prepara a conformarsi all'AI Act dell'Unione Europea, che richiede ai fornitori di sistemi di intelligenza artificiale che generano contenuti sintetici di garantire che i propri output siano rilevabili.

I modelli Claude rilasciati a partire dal 2 agosto conterranno un segnale impercettibile a livello di modello. Secondo Anthropic, il watermark non altera il significato né la leggibilità del testo e rimane incorporato quando il contenuto viene copiato e incollato. L'azienda ha precisato che il segno "può persistere attraverso alcune modifiche." Anthropic ha firmato il Code of Practice dell'UE sui contenuti generati dall'IA e ha dichiarato che il watermarking sarà applicato a livello mondiale, non solo agli utenti dell'UE.

Come Funziona il Sistema di Watermarking

Il segnale verrà applicato su molteplici superfici, tra cui l'app Claude, l'API, Claude Code, Claude Cowork e Claude Tag. I clienti che accedono ai modelli supportati tramite Amazon Web Services (AWS), Google Cloud e Microsoft Foundry riceveranno anch'essi output con watermark.

Gli output di file sono gestiti attraverso un meccanismo diverso. I formati di file supportati, inclusi i comuni tipi di immagine, conterranno metadati di provenienza firmati basati sullo standard della Coalition for Content Provenance and Authenticity (C2PA), anziché un watermark testuale incorporato. C2PA è una specifica intersettoriale sviluppata congiuntamente da Adobe, Microsoft, la BBC e altri, ed è sempre più adottata come framework comune per verificare l'origine e la cronologia delle modifiche dei media digitali.

I modelli Claude precedenti non riceveranno immediatamente il sistema di watermarking. Anthropic ha dichiarato di star lavorando per estendere la capacità a tali modelli durante il periodo di transizione dell'AI Act dell'UE.

L'azienda ha avvertito che modifiche pesanti, parafrasi, traduzioni o l'unione dell'output di Claude con altro testo potrebbero rendere il watermark non rilevabile. Ha inoltre precisato che rilevare un watermark non conferma in modo definitivo che Claude abbia originariamente composto un determinato testo, poiché attività come la correzione di bozze o la traduzione di lavori esistenti tramite Claude possono lasciare anch'esse un segno.

Anthropic prevede di pubblicare dettagli tecnici per assistere utenti e terze parti nel rilevamento dei propri watermark, con ulteriore documentazione attesa man mano che i sistemi di marcatura e rilevamento continuano a evolversi.

Anthropic è il secondo grande laboratorio di intelligenza artificiale a introdurre il watermarking del testo. Google DeepMind ha annunciato nel 2024 di star applicando watermark a testo e video generati tramite l'app Gemini e l'esperienza web utilizzando la propria tecnologia SynthID, dopo aver precedentemente rilasciato una versione dello strumento per il watermarking delle immagini nel 2023. Altri principali fornitori, tra cui OpenAI e Meta, non hanno ancora distribuito un watermarking testuale comparabile, sebbene i requisiti di trasparenza dell'AI Act dell'UE si applicheranno ampiamente a tutti i fornitori di modelli di IA per uso generale che operano nella regione.