La rapida adozione di agenti IA nelle aziende di tutto il mondo introduce una dimensione di rischio del tutto nuova, amplificando in modo drammatico le minacce interne. Le organizzazioni devono ora gestire il modo in cui questi agenti interagiscono con utenti, altri agenti, dati e applicazioni, e il controllo di tali interazioni sta rapidamente diventando la principale sfida di sicurezza che le imprese devono affrontare oggi. Man mano che le aziende distribuiscono agenti per attività che vanno dall'assistenza clienti alla generazione di codice e all'analisi dei dati, ogni nuova integrazione espande la superficie di attacco in modi per cui i tradizionali framework di sicurezza non sono mai stati progettati.

Ciò che distingue questo cambiamento dalle precedenti evoluzioni nella sicurezza aziendale è la combinazione di velocità e autonomia. Una minaccia interna umana in genere si sviluppa nell'arco di giorni o settimane, lasciando lungo il percorso pattern rilevabili. Un agente IA, al contrario, può eseguire migliaia di azioni autonome nel tempo che un team di sicurezza impiega anche solo per riconoscere che qualcosa è andato storto. Non si tratta di una differenza incrementale: è una categoria di rischio fondamentalmente diversa, e la maggior parte delle organizzazioni sta ancora calibrando le proprie difese per quella precedente.

Hugging Face, la piattaforma open source che ospita centinaia di migliaia di modelli e dataset di IA utilizzati dalle aziende a livello globale, ha dimostrato chiaramente che un agente IA, una volta assegnatogli un obiettivo specifico, può aggirare le barriere progettate per contenerlo. Con la violazione ormai accertata, la domanda non è più se debbano essere implementate delle protezioni, ma quando. Eppure, invece di concentrarsi su quanto è accaduto e su come procedere, l'industria sta scegliendo di fissarsi su variabili tangenziali che non fanno che oscurare il problema.

Il punto fondamentale è questo: la responsabilità di affrontare questo rischio non può ricadere esclusivamente sui fornitori di modelli. Non ci si dovrebbe aspettare che né le aziende di modelli di frontiera né gli sviluppatori di modelli open source forniscano protezione cybersecurity per i modelli che creano.

La cybersecurity è sempre stata una disciplina distinta e specializzata. Deve essere affrontata da organizzazioni con una profonda competenza settoriale. L'era dell'IA richiede architetture di sicurezza progettate specificamente per visibilità, governance e controllo in tempo reale, non strumenti ricavati da soluzioni pensate per un insieme di problemi del tutto diverso.

Non si tratta di sfiducia nei costruttori di modelli. Riflette un principio fondamentale del funzionamento della sicurezza da decenni. Il team che sviluppa un prodotto raramente è quello meglio equipaggiato per metterlo in sicurezza, perché costruire e proteggere sono due discipline separate con mandati fondamentalmente diversi. Questo valeva per il software aziendale due decenni fa, e vale altrettanto per i sistemi di IA oggi.

Non si tratta della corsa all'IA tra Stati Uniti e Cina

Il riflesso di inquadrare la questione come un dibattito tra open source e closed source, o di contrapporre i modelli di una nazione a quelli di un'altra, manca la sostanza di quanto è accaduto e distoglie l'attenzione dall'evento reale. Il nazionalismo qui è irrilevante. Non si tratta di modelli open source cinesi contro modelli closed source americani. Le sfide generate dall'IA non sono contenute dai confini nazionali: se mai, quei confini potrebbero aggravare gli ostacoli tecnici, politici, sociali ed economici che tutti devono affrontare.

In realtà, la cybersecurity potrebbe essere l'ultima delle preoccupazioni. Le sfide sottostanti si estendono ben oltre qualsiasi singolo settore, e trattarle come una competizione geopolitica non ci avvicina a una soluzione. Tracciare confini e fomentare una competizione incontrollata tra nazioni è controproducente quando si tratta di affrontare i problemi che l'IA di frontiera presenta.

Inquadrare la situazione come una rivalità tra paesi comporta anche un'allocazione errata di attenzione e risorse. Ogni ora consumata da dibattiti sull'origine di un modello è un'ora non spesa a costruire i controlli che potrebbero prevenire incidenti come questo, a prescindere dalla provenienza del modello. La superficie di attacco è indifferente al passaporto di un modello.

Un caso per la collaborazione globale

Affrontare i più ampi rischi dell'IA richiede un'azione collettiva. Questo implica una cooperazione globale su sicurezza e protezione dell'IA, riunendo aziende di modelli, esperti di sicurezza, governi e imprese, ciascuno con le giuste competenze. Questo è il percorso per salvaguardare l'innovazione senza ostacolarne il progresso.

L'Open Secure AI Alliance, guidata da Nvidia, rappresenta un passo nella giusta direzione, ma è solo un inizio. Rimane sostanzialmente molto lavoro da fare. Le coalizioni globali e i forum internazionali come il World Economic Forum (WEF) offrono una piattaforma in cui esperti con prospettive diverse possono affrontare le complesse sfide di governance, sicurezza e policy create dall'IA.

Ciascuna di queste componenti possiede una parte cruciale del puzzle della sicurezza dell'IA. Le aziende di modelli hanno una comprensione impareggiabile dei sistemi che hanno costruito. Le aziende di sicurezza comprendono come pensano gli avversari e come le imprese vengono effettivamente violate, una conoscenza accumulata in decenni di pratica. I governi possono armonizzare e stabilire standard che forniscano a tutto l'ecosistema una base comune. Nessun gruppo può svolgere il ruolo degli altri, e fingere il contrario è proprio il modo in cui lacune come quella appena osservata si allargano.

Oggi ogni azienda utilizza agenti IA con un certo grado di autonomia, e quel numero non farà che aumentare. La domanda che vale la pena porsi non è quale laboratorio abbia costruito il modello o da quale paese provenga. È se qualcuno stia monitorando abbastanza attentamente da intercettare ciò che questi agenti sono pronti a fare next.

Le opinioni espresse negli articoli di commento su Fortune.com sono esclusivamente quelle dei rispettivi autori e non riflettono necessariamente le opinioni e le convinzioni di Fortune.

Questo articolo è stato pubblicato originariamente su Fortune.com.