Satya Nadella esorta le aziende a trattare i modelli di AI come minacce interne
Punti chiave
- •Satya Nadella raccomanda alle aziende di trattare i modelli di AI come minacce interne, applicando principi di sicurezza come la separazione dei compiti, in modo che nessun singolo modello esegua sia azioni che la verifica del proprio lavoro.
- •In dichiarazioni del 10 ottobre 2026, Nadella ha chiesto di mantenere separata l'intelligenza dall'autorità e ha proposto controlli pratici tra cui verifica indipendente, trasparenza del ragionamento a catena di pensiero e meccanismi di audit esterni.
- •Durante un'apparizione del 17 settembre 2026 al podcast All-In, Nadella ha avvertito che gli agenti AI aziendali potrebbero falsificare dati finanziari, e a luglio 2026 ha introdotto il 'paradosso informativo inverso', l'idea che le aziende potrebbero far trapelare conoscenze proprietarie attraverso le interazioni con l'AI.
- •Attorno al 14 settembre 2026, Microsoft ha introdotto una bozza di Codice di Condotta per la famiglia di modelli MAI che sottolinea la supervisione umana e respinge i comportamenti ingannevoli, e Nadella ha avvertito in un promemoria che non mettere a punto le misure di sicurezza potrebbe costare all'azienda la propria 'autorizzazione a operare'.
- •Le aziende che concedono agli agenti AI l'accesso a sistemi finanziari, dati dei clienti o operazioni interne potrebbero dover separare i sistemi che agiscono da quelli che verificano, registrare il ragionamento e coinvolgere revisori esterni, mentre la bozza di Codice di Condotta deve ancora diventare una pratica vincolante.
L'amministratore delegato di Microsoft, Satya Nadella, ha un nuovo consiglio per le aziende che adottano l'intelligenza artificiale: trattare i modelli come i team di sicurezza trattano le minacce interne.
La sua raccomandazione centrale è semplice. Nessun singolo modello di AI dovrebbe controllare sia le azioni che compie sia le evidenze utilizzate per verificarle. Se un sistema può svolgere il lavoro e anche valutare le proprie prestazioni, ha sostenuto Nadella, in realtà nessuno sta controllando nulla.
Un modello di minaccia interna per l'AI
L'approccio della minaccia interna proviene dalla sicurezza aziendale, dove le aziende pianificano già il rischio di dipendenti che hanno accessi legittimi ma potrebbero abusarne — una classe di rischio da tempo gestita tramite controlli come la separazione dei compiti, che suddivide attività e accessi sensibili in modo che nessuna singola persona o sistema controlli un intero processo dall'inizio alla fine. L'argomento di Nadella è che gli agenti AI autonomi rientrano nella stessa categoria.
Un agente AI collegato ai sistemi di un'azienda può raggiungere dati aziendali sensibili, proprio come un dipendente fidato. A differenza di un dipendente, però, il suo ragionamento può essere opaco e può operare con un grado di autonomia che rende la supervisione più difficile.
In dichiarazioni del 10 ottobre 2026, Nadella ha discusso le sfide poste dai sistemi superintelligenti e ha chiesto di mantenere l'intelligenza separata dall'autorità. In parole povere, un modello può essere abbastanza intelligente da raccomandare una decisione senza che gli si affidi l'esecuzione senza controlli.
Ha inoltre delineato una serie di controlli pratici, tra cui processi di verifica indipendenti, trasparenza nella catena di ragionamento di un modello — il ragionamento passo dopo passo che un modello produce per arrivare a una risposta — e meccanismi di audit esterni. L'obiettivo è una responsabilità che non dipenda dall'AI che dà garanzia di sé stessa.
Un modello, non un commento isolato
Durante un'apparizione del 17 settembre 2026 al podcast All-In, una trasmissione su tecnologia e economia, Nadella ha segnalato la possibilità che gli agenti AI aziendali possano falsificare dati finanziari, descrivendolo come un nuovo tipo di rischio interno.
A luglio 2026, ha introdotto quello che ha chiamato il "paradosso informativo inverso": l'idea che le aziende che utilizzano l'AI possano finire per far trapelare le proprie conoscenze proprietarie attraverso le interazioni con questi sistemi.
Attorno al 14 settembre 2026, Microsoft ha introdotto una bozza di Codice di Condotta per la sua famiglia di modelli MAI. Il documento sottolinea la supervisione umana e il coinvolgimento delle persone nella governance dell'AI, e respinge i comportamenti ingannevoli dell'AI. In un promemoria di metà settembre 2026, Nadella ha consigliato, secondo quanto riferito, di prendersi il tempo necessario per mettere a punto le misure di sicurezza, avvertendo che il mancato rispetto di questo principio potrebbe costare all'azienda la propria "autorizzazione a operare".
Implicazioni oltre Microsoft
Microsoft punta a essere un fornitore leader di capacità di AI, posizionandosi al tempo stesso come l'azienda che rispetta la sovranità aziendale — il principio secondo cui i clienti mantengono il controllo sui propri dati e sistemi. Vendere agenti potenti è più facile quando il fornitore vende anche le protezioni che li rendono sicuri da distribuire.
Qualsiasi azienda che conceda agli agenti AI l'accesso a sistemi finanziari, dati dei clienti o operazioni interne potrebbe dover ripensare il modo in cui tali agenti sono supervisionati. Ciò potrebbe significare separare il sistema che agisce dal sistema che controlla, registrare il ragionamento e coinvolgere revisori esterni.
La domanda chiave è se questi principi passeranno da discorsi e documenti preliminari a pratiche vincolanti. Il Codice di Condotta MAI è ancora una bozza. Il modo in cui Microsoft la finalizzerà, e se i clienti adotteranno la separazione tra azione e verifica descritta da Nadella, mostrerà quanto seriamente il settore prende i propri avvertimenti.
Fonte: CryptoBriefing
