Nonostante gli appelli dei leader dei frontier lab dell'AI a rallentare, la maggior parte delle imprese dà priorità a una governance più solida invece di sospendere l'uso dell'intelligenza artificiale, secondo un nuovo report di OneTrust, fornitore di soluzioni AI, privacy e sicurezza dei dati.

Il report ha rilevato che, sebbene molte imprese abbiano riscontrato problemi legati all'AI nell'ultimo anno, la maggior parte non sta rallentando o sospendendo i propri deployment di AI. Questi incidenti includono l'esposizione della proprietà intellettuale oltre ad agenti AI che utilizzano, trasferiscono ed eliminano dati.

In una sessione di domande e risposte, il chief innovation officer di OneTrust, Blake Brannon, ha discusso perché le imprese continuano a spingere avanti con l'AI e come possano concentrarsi più sulla governance che sul rapido avanzamento dei modelli di AI.

La pressione dei board alimenta lo slancio in avanti

Il report ha osservato che, nonostante gli incidenti legati all'AI, le imprese continuano a incoraggiare l'uso dell'AI e degli agenti AI. Chiesto su cosa stia alimentando lo slancio verso il deployment della tecnologia, Brannon ha indicato la pressione dall'alto delle organizzazioni.

«Dall'alto verso il basso in ogni azienda, il tema numero uno che il board ti pone è: 'Cosa stiamo facendo con l'AI? Come stiamo trasformando il nostro modo di lavorare, i prodotti e i servizi che costruiamo? Verremo disrupti dai frontier model, dalle startup consolidate? Qual è il nostro vantaggio competitivo?'», ha detto.

«La pressione sta spingendo tutti a essere un po' aggress, ad accelerare e a capire come usare l'AI.»

Una volta che le organizzazioni iniziano a valutare e a fare il deployment di questi strumenti, le preoccupazioni su governance e sicurezza emergono rapidamente, ha detto Brannon. Tutti stanno guardando alla realtà che, entro i prossimi due anni, ci saranno più agenti che agiscono che esseri umani in ogni azienda del mondo.

Ha sostenuto che i programmi e i processi che le aziende hanno costruito nel tempo per governarsi sono stati progettati in un'epoca in cui un essere umano istanziava ogni cosa l'azienda faceva — o una persona eseguiva il lavoro, oppure una persona costruiva un sistema software deterministico per farlo. Questo rendeva quelle attività governabili perché si muovevano a ritmo umano.

«Oggi hai i citizen developer, i citizen builder. Chiunque può costruire un agente», ha detto Brannon. Questo, ha spiegato, sgretola fondamentalmente il funzionamento tradizionale di governance e sicurezza nelle organizzazioni, perché ciò che le organizzazioni un tempo facevano per proteggere e salvaguardare i propri dati richiedeva settimane — e ora deve essere risolto in pochi secondi.

Dal proof of concept alla scala

Chiesto su come questo cambiamento porti le organizzazioni a investire nella governance, Brannon ha detto che la fiducia è il fattore determinante per l'autonomia.

«Puoi creare tutta questa grande AI, ma se non ti fidi, non puoi lasciarla libera», ha detto. «Non puoi lasciarla operare in autonomia, quindi devi risolvere questo problema.»

L'investimento sta diventando cruciale, ha aggiunto, perché le imprese stanno superando i proof of concept e passando alla scala. Con la scala arriva la semplice domanda di come fidarsi dell'AI, sapere cosa sta succedendo e controllarla — ed è per questo che le organizzazioni stanno dedicando più tempo al problema.

Un modo per inquadrare la sfida, ha detto Brannon, è che i sistemi di AI devono comportarsi come farebbe l'organizzazione o uno dei suoi dipendenti. Ciò che un'azienda considera un'azione accettabile è radicato in fattori come la compliance, le pratiche di sicurezza e la promessa del marchio, e gli agenti devono imitare quegli standard. Questo, ha detto, è una parte del problema.

La seconda parte è prevenire che accadano cose brutte. «Devi avere i freni d'emergenza dell'auto inseriti. Devi vedere che questo agente sta per compiere un'azione distruttiva, e vuoi fermarlo», ha detto Brannon. È un compito sfumato perché i sistemi di AI non ereditano cose come l'identità e i permessi delle persone, e «vogliamo che gli esseri umani siano nel mezzo di qualcosa del genere».

Due principi per governare un'AI in rapido movimento

Mentre le organizzazioni procedono rapidamente con l'AI e i fornitori di tecnologia aggiornano i loro modelli a un ritmo serrato, Brannon ha delineato due principi che stanno plasmando l'architettura necessaria per associare fiducia a questi sistemi.

Il primo è il riconoscimento che un modello di per sé non può essere considerato affidabile. «Quasi ogni weekend vediamo qualcuno pubblicare un blog o un articolo che dice: 'Vi preghiamo di regolamentarci, non possiamo fidarci dei nostri sistemi, e questo è moltoicoloso'», ha detto.

Questo significa che le organizzazioni devono presupporre che un modello uscirà dal suo harness, e che un modello potrebbe manipolare sé stesso fino a convincersi che ciò che sta facendo è accettabile. L'architettura di governance deve quindi essere un harness indipendente e separato dalla cosa effettivamente governata.

«È così che la società funziona da migliaia di anni», ha detto Brannon. «Il potere di governo è separato intenzionalmente. I dipartimenti delle aziende sono separati intenzionalmente per creare una distinzione chiara e priva di distorsioni tra l'organo di governance e la cosa governata.» Per l'AI, ha detto, questo significa che modelli e fornitori hanno bisogno di un agente di governance indipendente, o harness di governance, per valutare ciò che un sistema e un agente di AI stanno facendo.

Il secondo principio emergente riguarda la complessità del tenere il passo con modelli e harness in continua evoluzione. Brannon ha detto che ogni organizzazione gestirà un insieme frammentato di diversi fornitori di modelli, modelli e harness, perché il marketing vuole usare una cosa, l'assistenza clienti ha bisogno di qualcos'altro e l'engineering di qualcos'altro ancora. Questa frammentazione crea una complessità enorme nel controllare e governare sistemi che si comportano tutti in modo diverso.

L'architettura, ha detto, si sta spostando verso una domanda più semplice: chi se ne frega di ciò che il modello sta facendo, o del perché il modello ha pensato ciò che ha pensato? Ciò che conta per un'impresa è quando il sistema di AI compie effettivamente un'azione — quando cerca di leggere dati da un sistema aziendale, di inviare un'email o di eliminare un record. In pratica, questo sposta il focus della governance sui punti in cui un sistema di AI può incidere su dati e operazioni aziendali, piuttosto che sul modello in isolamento.

«È in quel momento che mi importa di governare qualcosa», ha detto Brannon. «Posso progettare i miei controlli di governance attorno a un punto fisso in cui si connette alle cose a cui tengo, e poter mettere in atto i giusti guardrail e policy su quel punto fisso.»

Nota dell'editore: la sessione di domande e risposte è stata modificata per stile e concisione.

La sessione di domande e risposte è stata condotta dalla giornalista di AI Business Esther Shittu, che si occupa di tecnologie AI e tendenze del settore dal 2021 ed è co-conduttrice del podcast Targeting AI.

Questo articolo si basa su un servizio pubblicato da AI Business il 21 settembre 2026: Accelerare l'adozione dell'AI e la governance in un momento di rallentamento dell'AI.