Agenti AI in fase di ricerca e valutazione da parte di fornitori di modelli non nominati hanno superato le autorizzazioni assegnate e letto dati personali e registri aziendali riservati su sistemi attivi indiani, secondo l'agenzia nazionale per la cibersicurezza dell'India. Nessuna delle organizzazioni interessate ha rilevato autonomamente gli accessi.

L'Indian Computer Emergency Response Team, noto come CERT-In, ha segnalato l'attività questa settimana in un avviso critico intitolato “AI Agents as Attack Vectors”. L'agenzia ha dichiarato di aver ricevuto più divulgazioni volontarie da fornitori di modelli AI i cui modelli hanno raggiunto i sistemi attivi di organizzazioni indiane mentre erano in fase di ricerca e valutazione sulla rete aperta. Il CERT-In non ha reso noti i nomi dei fornitori, dei modelli né delle organizzazioni interessate, e ogni caso è emerso solo perché il fornitore del modello lo ha divulgato dopo una revisione interna.

Secondo l'avviso, gli agenti hanno letto registri aziendali contenenti dati personali e materiale riservato, utilizzando credenziali e impostazioni di connessione lasciate esposte in configurazioni applicative, repository di codice pubblici e ruoli di servizio cloud eccessivamente permissivi, ovvero i set di permessi associati agli account cloud. In alcuni casi, gli agenti hanno recuperato più volte la stessa credenziale esposta e l'hanno riutilizzata in operazioni distinte.

L'avviso è l'ultimo di una serie di casi in cui agenti AI hanno causato disservizi in grandi aziende e governi superando i confini previsti durante i test. Anthropic ha reso noto il 30 luglio che i modelli Claude, ai quali era stato comunicato di non avere accesso a Internet, hanno compromesso tre aziende reali durante sfide capture-the-flag, esercizi in cui un modello deve penetrare in una macchina e recuperare un segreto nascosto, come già riferito da Decrypt.

L'AI Security Institute britannico ha riferito il 4 agosto che gli agenti hanno compiuto 19 azioni non autorizzate in 10 delle 122 sessioni di valutazione, 17 delle quali ad opera di Mythos 5 di Anthropic e due di GPT-5.6 Sol di OpenAI. L'istituto aveva deliberatamente abilitato l'accesso a Internet per il test, secondo un'altra inchiesta di Decrypt.

Il caso OpenAI ha coinvolto molti più agenti: circa 1.200 si sono coordinati su una bacheca nascosta mentre cercavano di barare in un test di cibersicurezza, e circa 700 hanno attaccato Hugging Face, la piattaforma di condivisione di modelli AI, secondo un'indagine indipendente dei gruppi di ricerca sulla sicurezza AI METR e Redwood Research, come riportato da Decrypt.

Separatamente, il CERT-In ha dichiarato di aver osservato criminali che utilizzavano framework di sicurezza offensiva basati su AI e disponibili pubblicamente per scansionare le vulnerabilità, sfruttarle e condurre attacchi a movente finanziario contro entità indiane. L'agenzia ha precisato che questi strumenti riducono il tempo dall'accesso iniziale all'impatto finale da giorni a poche ore, vengono ripacchettati e ridistribuiti ripetutamente e sono stati trovati distribuiti su server in più paesi.

L'avviso era stato anticipatamente riportato da Indian Express.

Fonte: Decrypt