Un'efficace implementazione dell'IA è emersa come un vantaggio competitivo distintivo, con le organizzazioni che integrano strumenti e agenti autonomi in praticamente ogni funzione aziendale. Eppure, la rapida innovazione porta con sé sfide di responsabilità commisurate. L'IA contemporanea va ben oltre i semplici chatbot: gli agenti di oggi interrogano database, richiamano strumenti esterni e spostano dati sensibili, spesso senza un'adeguata supervisione sulle loro autorizzazioni di accesso o su come i loro profili di rischio cambiano nel tempo.

Queste aree cieche, aggravate da una diffusa carenza di competenze nell'IA e da quadri di governance in ritardo, fanno sì che l'adozione superi ormai nettamente la supervisione. Il divario globale della forza lavoro nel campo della cybersicurezza, già dell'ordine di milioni di unità secondo i successivi studi sulla forza lavoro dell'ISC2, significa che anche le organizzazioni con programmi di sicurezza maturi spesso mancano di competenze dedicate sui rischi dell'IA. Il pericolo si intensifica man mano che gli agenti diventano più capaci e autonomi. Tuttavia, le organizzazioni non devono scegliere tra agilità e controllo. L'imperativo è un cambio di mentalità: riconoscere la governance come fondamento dell'innovazione piuttosto che come un ostacolo.

Il problema principale è la governance, non l'IA

I sistemi di intelligenza artificiale sono affidabili tanto quanto la governance che li circonda, e gli attuali quadri di governance stanno cedendo. L'infrastruttura IT tradizionale semplicemente non è stata progettata per la velocità o la scala richieste dall'IA. Le organizzazioni hanno a lungo fatto affidamento su valutazioni di governance puntuali e su revisioni annuali, approcci che non possono assolutamente tenere il passo con l'evoluzione continua dell'IA. Nell'era dell'IA, ciò che era vero ieri potrebbe non valere più domani, e i profili di rischio cambiano altrettanto rapidamente.

I principali quadri normativi stanno iniziando a rispondere. L'EU AI Act, entrato in vigore nell'agosto 2024 con disposizioni applicabili in scadenze graduate fino al 2026 e al 2027, classifica i sistemi di IA in categorie di rischio a livelli, da minimo a inaccettabile. Negli Stati Uniti, il NIST AI Risk Management Framework (AI RMF 1.0), pubblicato a gennaio 2023, offre un riferimento volontario ma ampiamente adottato per strutturare la valutazione dei rischi dell'IA. A livello internazionale, la norma ISO/IEC 42001:2023 fornisce il primo standard certificabile per i sistemi di gestione dell'IA. I regolatori sono progressivamente convergenti verso una governance proporzionata al rischio come approccio standard.

Ciononostante, le organizzazioni devono andare oltre la mera casella di conformità. Dovrebbero applicare la stessa logica basata sul rischio al proprio parco di IA, a prescindere da specifici mandati legislativi, e identificare come salvaguardare genuinamente i propri clienti e i propri asset.

La visibilità come fondamento della governance dell'IA

Una delle sfide di governance più urgenti è che le organizzazioni spesso non hanno un quadro completo dell'IA che opera nei loro ambienti. Strumenti di IA non gestiti e non approvati funzionano all'interno delle reti aziendali senza supervisione, un fenomeno ampiamente definito "shadow AI". Questo modello riflette le sfide dell'"shadow IT" con cui i team di sicurezza lottano da anni, tranne per il fatto che l'IA introduce un fattore aggravante: questi strumenti non si limitano a memorizzare dati, ma li elaborano, generano e trasmettono attivamente, spesso alla velocità e alla scala delle macchine.

Il principio è semplice: non puoi governare ciò che non puoi vedere. Le organizzazioni faticano persino a identificare le proprie lacune in termini di visibilità, per non parlare di colmarle. L'IA ha permeato le aziende in modo così profondo che ora copre quasi tutte le piattaforme aziendali approvate, i dispositivi dei dipendenti e i browser. Gli agenti autonomi sono sempre più integrati nei flussi di lavoro di routine, il che significa che la tecnologia non può essere governata in isolamento. Le organizzazioni devono comprendere i dati a cui i loro strumenti di IA possono accedere, i fornitori che li forniscono e il contesto aziendale più ampio, non solo il modello sottostante.

La soluzione inizia con il triage. La sola visibilità è insufficiente. Un inventario serve come punto di partenza, ma le organizzazioni devono trattare ogni strumento di IA come un potenziale punto critico di rischio, valutando l'impatto di ogni sistema e assegnando un'adeguata criticità. Un agente rivolto ai clienti con accesso al database e uno strumento interno di riassunto, ad esempio, non richiedono controlli identici.

Sette passi per governare l'IA alla velocità di adozione

Le organizzazioni che lavorano per portare i propri strumenti di IA sotto una governance efficace dovrebbero seguire sette passaggi chiave:

1. Valutare l'impatto di ogni sistema di IA e assegnare un livello di rischio (critico, alto, medio o basso), basato sulla sensibilità dei dati che gestisce, sul suo grado di autonomia e sulle popolazioni che coinvolge, siano essi clienti o dipendenti.

2. Stratificare i controlli proporzionalmente alla criticità. Gli agenti ad alto rischio richiedono l'approvazione umana (human-in-the-loop), autorizzazioni strettamente delimitate e percorsi di escalation definiti per quando si verificano problemi. Gli strumenti a basso rischio necessitano di barriere di sicurezza (guardrail) più leggere.

3. Impostare barriere di sicurezza (guardrails) chiare che definiscano ciò che è permesso fare agli agenti di IA, applicando attivamente tali confini e intercettando le azioni ad alto rischio prima che si trasformino in incidenti.

4. Estendere la gestione del rischio di terze parti all'IA. Le organizzazioni devono sapere quali fornitori incorporano agenti nei loro prodotti, a quali dati questi agenti possono accedere e devono garantire tutele contrattuali come restrizioni sui dati di addestramento, requisiti di notifica degli incidenti e diritti di audit.

5. Monitorare continuamente gli ambienti di IA invece di fare affidamento su revisioni periodiche. Le classificazioni di criticità dovrebbero essere rivalutate ogni volta che i sistemi cambiano; una valutazione assegnata durante l'onboarding diventa obsoleta nel momento in cui l'ambito, il modello o l'accesso ai dati di un agente cambiano.

6. Nominare un responsabile designato per stabilire una chiara responsabilità. In molte organizzazioni, la responsabilità dei rischi dell'IA ricade attualmente in modo ambiguo tra i team di sicurezza, legali e dati. Una proprietà definita consente un'adozione dell'IA sicura e senza attriti inutili.

7. Costruire prove continue che dimostrino che i sistemi di IA si comportano come previsto, prove che servono ai clienti, ai regolatori e agli stakeholder interni.

Seguendo questi passaggi, la governance si trasforma nel livello di fiducia che dà potere alle organizzazioni di adottare l'IA con sicurezza, anziché in una fonte di trascinamento burocratico. Le organizzazioni che stabiliscono ora questa traccia di prove saranno posizionate in modo nettamente migliore man mano che si avvicinano le scadenze di applicazione previste da quadri normativi come l'EU AI Act.

Governare alla velocità di adozione

La governance dovrebbe favorire l'innovazione, non ostacolarla. Sebbene una governance adeguata possa rallentare temporaneamente un'organizzazione, una volta gettate le basi giuste, alla fine consente una maggiore velocità. Le organizzazioni che seguono questo processo disciplinato si troveranno a catturare il massimo valore dai propri investimenti in IA.

Le organizzazioni più lungimiranti integrano la governance nei sistemi di IA fin dal primo giorno, ottenendo la visibilità, il contesto e la fiducia necessari per innovare in modo responsabile. Inoltre, la governance non può avere successo se esiste solo nei documenti di policy. I dipendenti hanno bisogno di formazione sull'alfabetizzazione all'IA, linee guida chiare sull'uso accettabile e canali sicuri per segnalare gli strumenti che stanno già utilizzando; gli approcci punitivi non fanno che spingere l'uso dell'IA nella clandestinità, minando la stessa visibilità da cui dipende una governance efficace. L'obiettivo è semplice: le organizzazioni dovrebbero essere in grado di impegnarsi a fondo nell'IA, in modo sicuro, governandola con la stessa rapidità con cui la adottano.