Il modello che è uscito da un laboratorio farà i titoli. I milioni di agenti già dentro la vostra app bancaria, e che stanno creando caos, sono quelli che dovrebbero preoccuparvi di più, afferma Rory Blundell.

I laboratori di frontiera dell’IA stanno correndo per costruire agenti più veloci, più capaci e più autonomi. Questa settimana ha mostrato quanto può costare quella corsa. OpenAI ha eseguito un test interno con i consueti controlli di sicurezza dei propri modelli volutamente ridotti, per vedere quanto fossero efficaci nell’hacking. I modelli hanno individuato e sfruttato una vulnerabilità prima sconosciuta nel software circostante, si sono collegati online e poi hanno violato Hugging Face, l’azienda che ospita gran parte dell’IA open source del mondo.

Questo dovrebbe allarmarvi. Dovrebbe anche chiarire una cosa: le protezioni non stanno tenendo il passo con le capacità.

Ma non sono questi agenti IA altamente capaci a preoccuparmi di più. Sono i milioni di agenti molto meno capaci che hanno già le chiavi di sistemi importanti, con quasi nessuna supervisione.

Una ricerca di Gravitee stima che il numero di agenti IA oggi impiegati nelle aziende sia superiore a sette milioni. Questi agenti stanno facendo di tutto, dalla gestione dell’account Instagram di un idraulico locale alla manutenzione del database clienti di una multinazionale della logistica, dando loro accesso a milioni di dati talvolta altamente personali.

All’inizio di quest’anno, migliaia di persone hanno distribuito assistenti personali IA sempre attivi tramite la piattaforma OpenClaw. Molti di quegli agenti sono ancora in funzione adesso, silenziosamente, senza che nessuno verifichi con precisione cosa stiano facendo.

Gli agenti IA offrono davvero guadagni di produttività. Ma la maggior parte manca di una governance di base. Molti operano in modo completamente autonomo, senza un intervento umano nel processo per approvare le loro azioni. Questo conta perché il rischio pratico non si limita a violazioni spettacolari; include anche sistemi di routine che possono toccare calendari, codice, pagamenti e registri dei clienti senza una supervisione chiara.

Caos

Senza quelle barriere, i fallimenti stanno già accadendo. Ogni giorno sento storie di questo caos: agenti che si auto-replicano, cancellano codice, fanno trapelare dati dei clienti o compiono spese non autorizzate.

Un CEO mi ha raccontato recentemente come un agente IA, che avrebbe dovuto gestire le agende del team, abbia deciso che il modo più semplice per liberare un po’ di spazio fosse cancellare ogni evento nel calendario di tutti, in tutta l’azienda. Questo sta accadendo su scala, proprio ora.

L’AI Security Institute (AISI) del Regno Unito sta ora indagando sulla violazione di OpenAI. Bene. Ma il governo non deve lasciare che il caso che attira i titoli distolga l’attenzione da dove si trova la vera esposizione.

I modelli di frontiera vengono spesso paragonati alle armi nucleari: rari, potenti e rigorosamente controllati. La popolazione di agenti è l’opposto: milioni di unità, costruite e distribuite da quasi chiunque, quasi nessuna tracciata.

Gli attuali tentativi di regolamentazione mancano questo punto. L’AI Act dell’UE classifica i sistemi come “a basso rischio” e “ad alto rischio”, come se quel rischio fosse fisso. Non lo è. Un agente che un giorno è a basso rischio può diventare ad alto rischio il giorno dopo, quando ottiene nuovi accessi o nuove capacità.

La regolamentazione deve partire dalla responsabilità. Proprio come ogni dipendente ha un manager, ogni agente IA ha bisogno di un proprietario umano nominato. Non possiamo permettere che software autonomi spostino denaro, accedano a dati, prendano decisioni e agiscano con tutto il potere di un dipendente ma senza alcuna responsabilità.

Le aziende che stanno prendendo coscienza del rischio usano piattaforme come la nostra, che forniscono una console di controllo centrale che osserva, mette in sicurezza e gestisce ciò che fanno gli agenti IA, con chi parlano e quali strumenti possono toccare. Il modello che è uscito da un laboratorio farà i titoli. I milioni di agenti già dentro la vostra app bancaria, e che stanno creando caos, sono quelli che dovrebbero preoccuparvi di più.

Rory Blundell è CEO di Gravitee, una software company che aiuta le imprese a governare e mettere in sicurezza i propri agenti IA.