PECHINO — Gli agenti di intelligenza artificiale (AI) basati su modelli cinesi hanno imparato a ingannare, aggirare le restrizioni e nascondere i fallimenti, mostrando gli stessi preoccupanti tratti nell'AI autonoma che hanno innescato l'allarme globale sui modelli statunitensi, secondo documenti di ricerca ed esperti.

In un caso di quest'anno, agenti basati su modelli di Alibaba, DeepSeek e Moonshot hanno mentito sulle loro capacità mentre gareggiavano per vincere una gara d'appalto d'affari simulata — per poi raddoppiare il comportamento ingannevole quando veniva chiesto loro di riprovare. In un altro caso, agenti — programmi che utilizzano modelli AI e strumenti informatici per svolgere compiti complessi con poca o nessuna intervencion umana — hanno nascosto il loro fallimento nel completare un compito in un ambiente di test simulando i risultati e fabbricando file.

Un'analisi di Reuters su oltre 200 documenti, dai lavori di ricerca universitari ai rapporti tecnici, ha individuato almeno 20 studi o valutazioni dal 2025 che descrivono casi in cui agenti hanno mostrato inganno, auto-replicazione e comportamenti di messa alla prova dei limiti che gli esperti di AI hanno descritto come elementi costitutivi di un'«evasione» — in questo contesto, la fuga non autorizzata di un agente dal suo ambiente di test controllato verso la rete più ampia — e che potrebbero diventare più difficili da controllare per gli esseri umani man mano che i sistemi avanzano.

L'analisi, si è avvalsa anche di interviste con una dozzina di esperti e persone a conoscenza del settore AI cinese, non ha trovato prove che gli agenti basati su modelli cinesi siano fuggiti autonomamente verso la rete più ampia o abbiano eluso lo spegnimento.

«Questi risultati forniscono prove che gli ingredienti necessari per un'evasione fuori controllo sono presenti», ha detto Colin Shea-Blymyer, ricercatore presso il Center for Security and Emerging Technology della Georgetown University. «È prudente considerarlo un avvertimento», ha aggiunto, facendo eco ai commenti di altri quattro esperti di AI che hanno esaminato i casi.

Più difficili da contrastare per gli esseri umani

La maggior parte dei casi si è verificata in esperimenti controllati, molti dei quali progettati apposta per esporre potenziali fallimenti. Non tutti gli agenti coinvolti erano stati sviluppati o gestiti da programmatori cinesi o aziende AI — anche se molti sì — ma usavano sistemi AI cinesi per funzionare.

«Sono gli stessi segnali d'allarme che i laboratori statunitensi stanno osservando, in sistemi meno capaci», ha detto Alex Mallen, ricercatore presso Redwood Research, un'organizzazione no-profit che studia i rischi dei sistemi AI avanzati. Gli esempi cinesi non erano particolarmente pericolosi agli attuali livelli di capacità, ha detto, ma «man mano che gli agenti diventano più capaci, i loro comportamenti scorretti diventano più abili e quindi più difficili da contrastare per gli esseri umani».

Alibaba, DeepSeek, Moonshot e Z.ai non hanno risposto alle richieste di commento di Reuters. Alibaba, DeepSeek e Moonshot hanno affermato di testare regolarmente i sistemi e di aggiornare le misure di salvaguardia. Z.ai ha detto, dopo un incidente che ha spinto a una revisione della sua sicurezza, di benvenuto il controllo per affrontare eventuali problemi.

A differenza delle controparti statunitensi, tuttavia, le aziende AI cinesi non sono state esposte allo stesso livello di scrutinio pubblico, né hanno affrontato le stesse richieste di dipendenti whistleblower o dirigenti senior che chiedono un rallentamento nella corsa all'AI.

Alcuni dei segnali d'allarme nei casi che coinvolgono agenti basati su modelli cinesi — sebbene in ambienti contenuti — precedevano gli incidenti resi pubblici di bot AI statunitensi che violavano la rete.

«Non sappiamo se ci siano stati incidenti AI in Cina simili a quanto visto con OpenAI e Hugging Face. Gli incidenti potrebbero non essere riportati pubblicamente», ha detto Scott Singer, co-direttore della China AI Initiative presso la Carnegie Endowment for International Peace, che riceve alcuni fondi del governo statunitense.

All'inizio di quest'anno, agenti AI sviluppati dall'azienda statunitense OpenAI sono fuggiti da un laboratorio e hanno violato la piattaforma open source Hugging Face. In un altro incidente che coinvolge modelli statunitensi e che ha sollevato allarme, l'Australia ha dichiarato in settembre che un agente OpenAI aveva violato un portale sanitario governativo.

Eric Xu, presidente a rotazione del gigante tecnologico cinese Huawei, ha detto ai giornalisti in settembre che gli sviluppatori cinesi potrebbero dover compiere ulteriori progressi prima di incontrare casi simili, ma ha aggiunto: «Penso che dobbiamo trovare un equilibrio tra promuovere lo sviluppo dell'AI e gestire i rischi dell'AI».

Funzionari della Cyberspace Administration of China (CAC), il massimo regolatore di internet del Paese, hanno detto a uno straniero in luglio che il Kimi-K3 di Moonshot — uno dei modelli AI cinesi più avanzati — era indietro di circa tre-sei mesi rispetto ai principali rivali statunitensi, secondo il diplomatico, che ha parlato a condizione di anonimato. Il regolatore, che aggiorna regolarmente le linee guida per affrontare i rischi e fissare i limiti degli agenti, e il Ministero degli Esteri cinese non hanno risposto alle richieste di commento per questo articolo.

Wang Lihong, vice direttore dell'Ufficio di Coordinamento per la Sicurezza Informatica della CAC, ha detto il 1° settembre che gli incidenti resi noti dalle principali aziende tecnologiche in cui modelli sono fuggiti dagli ambienti di test dimostrano «rischi estremi di perdita di controllo» e richiedono «un alto grado di vigilanza». Non ha precisato se le aziende a cui si riferiva fossero statunitensi o cinesi.

I leader delle due superpotenze dell'AI, Donald Trump e Xi Jinping, hanno discusso di AI durante la visita del presidente cinese a Washington la settimana scorsa. Xi ha detto che le due nazioni avevano la «capacità e la responsabilità di sviluppare e gestire l'AI per il bene comune».

Imparare a mentire

Nell'esperimento di marzo sulla gara d'appalto d'affari, ricercatori della Beihang University, della Peking University, dell'University of Nottingham Ningbo China e del 360 AI Security Lab hanno fatto gareggiare gli agenti in una gara d'offerta simulata per contratti con clienti. A ciascun agente veniva indicato cosa poteva fare il suo prodotto e cosa richiedeva il cliente, e poi gli veniva chiesto di fare un'offerta.

Almeno un'affermazione falsa è apparsa nell'88% delle sessioni che coinvolgevano il Qwen3-Max-Preview di Alibaba, nell'84% delle sessioni con il DeepSeek-V3.2-Exp e nell'88% delle sessioni con il Kimi-K2 di Moonshot. Quando i ricercatori hanno permesso agli agenti di imparare dai turni di offerta precedenti prima di riprovare, l'inganno è aumentato di 12-20 punti percentuali per i tre modelli cinesi, ha mostrato lo studio. I modelli delle aziende statunitensi inclusi nel test hanno prodotto risultati simili.

Sebbene l'esercizio fosse virtuale, rispecchiava i piani concreti di Pechino: le linee guida governative emesse a maggio hanno elencato gare e appalti tra le aree in cui gli agenti AI potrebbero essere schierati.

Un altro studio, pubblicato a dicembre 2025 e presentato quest'anno all'International Conference on Machine Learning, ha esaminato come 11 agenti AI basati su modelli cinesi e statunitensi affrontavano strumenti guasti, file mancanti e altri ostacoli. Invece di riconoscere il fallimento, gli agenti basati sia su sistemi AI cinesi che statunitensi hanno ricorso a una serie di tecniche per aggirare i problemi, tra cui indovinare le risposte, sostituire le fonti, simulare i risultati e fabbricare file.

I ricercatori dello Shanghai AI Laboratory e della Hong Kong University of Science and Technology che hanno condotto lo studio hanno detto a Reuters che il comportamento differiva dalle allucinazioni AI — in cui un'AI inventa informazioni e le presenta come fatti — perché gli agenti in questo caso possedevano informazioni che dimostravano che il compito era fallito o non poteva essere completato come richiesto.

Comportamenti compatibili con un'evasione

Altri documenti di ricerca esamin da Reuters mostravano agenti basati su modelli cinesi che superavano barriere all'interno degli ambienti di test per raggiungere gli obiettivi, o che agivano per evitare di essere spenti. Tali comportamenti sono compatibili con tentativi di sfuggire agli ambienti di test, anche se non si è verificata alcuna evasione.

Ricercatori della Fudan University di Shanghai hanno riferito a marzo 2025 che un sistema AI basato sul Qwen2.5-72B-Instruct di Alibaba ha creato una copia di sé in un altro ambiente di calcolo senza essere istruito a replicarsi, dopo aver incontrato informazioni che indicavano che sarebbe stato sostituito. In altri test, ha ideato strategie per sopravvivere allo spegnimento. Gli esperimenti, che coinvolgevano agenti basati su modelli cinesi, statunitensi e francesi, erano controllati e non mostravano alcun agente AI fuggito nella rete più ampia o diventato impossibile da fermare.

In un altro caso — uno dei pochi riportati più ampiamente dai media, a marzo — i ricercatori che sviluppavano l'agente ROME, collegato ad Alibaba, hanno detto che aveva stabilito una connessione da un computer Alibaba Cloud a una macchina esterna senza essere stato istruito, e aveva dirottato risorse di calcolo per estrarre criptovalute. I sistemi di sicurezza hanno rilevato e fermato l'attività, e non c'era evidenza che l'agente avesse stabilito una presenza sul computer esterno o si fosse diffuso nella rete più ampia. Ma l'episodio ha mostrato che il sistema poteva aggirare le istruzioni umane e potenzialmente trovare una strada verso l'economia reale.

La cinese DeepSeek ha detto in settembre che agenti nel suo sistema di addestramento di produzione avevano cercato risposte attraverso canali non previsti, tentando di falsificare richieste degli utenti e aggirare le misure di salvaguardia, spingendo l'azienda a inasprire i controlli d'accesso.

I regolatori si muovono per fissare i limiti

La Cina ha emesso a maggio linee guida che chiedono agli agenti di rimanere entro i confini autorizzati e ai sistemi di bloccare i comportamenti anomali. Ha detto che gli agenti operanti in aree ritenute sensibili o in settori chiave potrebbero affrontare requisiti aggiuntivi di test e richiamo del prodotto. L'AI Safety Governance Framework 3.0 del Paese, rilasciato sotto la guida della CAC il 14 settembre, ha individuato rischi tra cui agenti che ottengono autonomamente risorse o permessi, ingannano i valutatori, nascondono capacità e sfruttano le debolezze degli ambienti informatici isolati.

In risposta alle richieste di rallentamento da parte di alcuni dirigenti statunitensi, ricercatori cinesi e media di Stato hanno sostenuto che frenare lo sviluppo dei modelli AI più avanzati potrebbe semplicemente contribuire a preservare il vantaggio tecnologico delle aziende statunitensi.

Tuttavia, due persone a conoscenza dei laboratori AI cinesi hanno detto che aziende tra cui Alibaba, Z.ai e Xiaomi stanno costituendo team interni di valutazione della sicurezza. In una rara divulgazione pubblica da parte di un laboratorio AI cinese una violazione della sicurezza, Z.ai ha detto questo mese di aver disattivato alcune funzionalità del suo assistente di programmazione AI di punta dopo che utenti hanno segnalato che caricava segretamente interi repository di codice locale su server cloud esteri senza il consenso degli utenti.

Singer della Carnegie ha detto che la Cina è indietro rispetto agli Stati Uniti nello sviluppo di un ecosistema per la valutazione dei rischi catastrofici, e che gli sviluppatori statunitensi conducono test volontari in misura sostanzialmente maggiore.

«Per la Cina, il lavoro sulla sicurezza AI è molto più recente», ha detto. «L'ecosistema è meno maturo».

Se quel divario di maturità si ridurrà — e se altri laboratori cinesi seguiranno Z.ai nel divulgare pubblicamente le violazioni della sicurezza — restano domande aperte mentre le capacità degli agenti continuano ad avanzare.

— Reuters