La Corte Suprema del Popolo cinese (SPC) ha emesso nuove linee guida che chiariscono chi porta la responsabilità legale per i deepfake AI e la clonazione vocale, in una mossa del 7 settembre volta a istituire misure di salvaguardia attorno ai contenuti generati dall'IA. Le indicazioni forniscono ai tribunali inferiori di tutto il paese uno standard unificato in un ambito in cui le sentenze erano precedentemente disomogenee, e allineano il sistema giudiziario alle norme cinesi esistenti sull'IA, tra cui i regolamenti sull'IA generativa del 2023 e le disposizioni del Codice Civile sui diritti della personalità che tutelano l'immagine e la voce di una persona.

L'intelligenza artificiale è progredita al punto che chiunque può produrre duplicati digitali convincenti semplicemente raccogliendo alcune foto o brevi registrazioni da internet o dai social media e diffondendo quei contenuti per lucro o per pilotare narrazioni.

La Cina traccia la linea sul consenso

Secondo l'SPC, la linea di demarcazione tra contenuti AI legali e illegali basati sulla replica di una persona è il consenso. Creare o condividere una riproduzione AI del volto o della voce di qualcuno senza il consenso di quella persona costituisce una violazione dei suoi diritti.

Il grado di violazione aumenta quando la replica AI viene utilizzata per diffondere affermazioni false o condurre narrazioni non veritiere. Quando il contenuto falso diventa malizioso fino a sfociare in affermazioni sessuali false e diffamatorie, le vittime possono accelerare l'azione richiedendo un'ingiunzione invece di attendere un lungo procedimento giudiziario.

Anche i fornitori di IA i cui strumenti sono utilizzati per generare tali contenuti affrontano responsabilità, in particolare se hanno ricevuto notifica di potenziali violazioni dei diritti connesse alle capacità delle loro piattaforme. La responsabilità si applica anche se il modello di IA diffondeva informazioni false o inesatte a causa di allucinazioni dell'IA.

Inoltre, secondo i rapporti locali, attori come Joey Wong e Lawrence Ng, oltre a persone comuni, hanno iniziato a concedere diritti d'immagine alle piattaforme di IA, nell'ambito di un mercato in crescita che formalizza la replica tramite IA. Più del 95% delle 128.000 microdrammatiche pubblicate in Cina nel primo trimestre del 2026 avrebbe utilizzato l'IA durante la produzione.

Chi altro affronta responsabilità per l'uso improprio dell'IA?

Nelle stesse linee guida, la corte ha affrontato anche la correttezza nelle transazioni commerciali. Ad esempio, un'azienda non può utilizzare algoritmi per far pagare ai diversi clienti tariffe diverse senza una base ragionevole per la differenza di prezzo. Le aziende sorprese in questa pratica ora affronteranno responsabilità per i danni arrecati agli acquirenti colpiti.

"Non possiamo aspettarci che ogni consumatore diventi un esperto nel riconoscere gli inganni", ha dichiarato Zhou Jiahai, che dirige l'ufficio di ricerca dell'SPC, nel rapporto di Xinhua. "La legge deve intervenire tempestivamente per proteggere i legittimi diritti e interessi dei consumatori."

Come ha gestito la Cina i casi di deepfake AI?

Prima di queste indicazioni della corte suprema, i giudici dei tribunali inferiori dovevano emettere sentenze discrezionali caso per caso.

Il Tribunale Internet di Pechino ha emesso nel giugno 2024 la prima sentenza della città su un deepfake AI, multando un operatore di app di 3.500 yuan (circa 482 dollari) per aver consentito agli utenti di applicare modelli di scambio del volto per generare contenuti ritraenti due modelle senza aver ottenuto il dovuto consenso.

Secondo il National Business Daily, il Tribunale Internet di Guangzhou ha emesso sentenze su circa 700 casi di furto di identità facciale tramite IA in soli tre anni.

Una spinta normativa su più fronti

Le linee guida dell'SPC costituiscono un tassello di una repressione più ampia. Il 2 settembre, la Cyberspace Administration of China ha dichiarato di aver rimosso più di 5,61 milioni di contenuti dannosi o illegali e circa 49.000 account su 2.400 siti e app — tra cui Douyin, Kuaishou, RedNote e WeChat — in un'azione contro i "rifiuti" generati dall'IA, le fake news e l'impersonazione, come riferito dal South China Morning Post.

ByteDance ha inoltre rimosso oltre 85.000 video contenenti riproduzioni AI non autorizzate di volti e voci di persone da gennaio.

Campagne precedenti hanno affrontato lo stesso problema nel commercio. Nel novembre 2025, Xinhua ha riferito che le autorità hanno eliminato oltre 8.700 prodotti non conformi e trattato più di 11.000 account che utilizzavano l'IA per imitare celebrità nelle dirette di shopping online, inclusi cloni contraffatti dell'attrice Wen Zhengrong e di campioni olimpici che pubblicizzavano prodotti di uso quotidiano.

Dal 1° settembre 2025, le norme cinesi sull'etichettatura dei contenuti richiedono che il materiale generato dall'IA sia contrassegnato, sebbene l'applicazione sia rimasta indietro poiché i trasgressori nascondono o rimuovono gli identificatori. La coerenza con cui i tribunali applicheranno il nuovo quadro di responsabilità — e se l'attuazione delle rimozioni e dell'etichettatura da parte delle piattaforme riuscirà a recuperare terreno — indicherà quanto i denti delle linee guida avranno effetto nella pratica.