Il CEO di Microsoft Satya Nadella ha chiesto che i sistemi di intelligenza artificiale avanzata siano dotati dell'equivalente di un pedale del freno. In un post su X del 10 ottobre 2026, Nadella ha proposto una nuova 'architettura di fiducia' per i sistemi di IA di frontiera — i modelli più capaci all'edge delle capacità attuali — centrata su un 'freno di emergenza' che permetterebbe al personale autorizzato di mettere in pausa o spegnere un modello di IA mentre è nel mezzo di un'attività.

Cosa ha proposto Nadella

Il freno di emergenza è la caratteristica principale della proposta. Gli utenti autorizzati potrebbero fermare un modello a metà operazione invece di attendere che completi ciò che ha iniziato.

Questa capacità conta più di quanto possa sembrare. Le vecchie chatbot rispondevano a una domanda e si fermavano. I più recenti sistemi 'agentici' possono eseguire una serie di azioni in autonomia, il che rende la possibilità di interromperli a metà un vero requisito di sicurezza, non una semplice comodità.

L'aspetto più notevole della proposta è il modo in cui Nadella vuole che le aziende ragionino su questi modelli. Ha sostenuto che l'IA avanzata dovrebbe essere trattata come se fosse già compromessa, applicando lo stesso approccio usato per le minacce interne. L'impostazione richiama la sicurezza 'zero trust', la dottrina di sicurezza aziendale secondo cui nessun utente o sistema dovrebbe essere considerato affidabile per impostazione predefinita.

Due altri componenti completano il quadro. Il primo è costituito da log a prova di manomissione e leggibili dagli esseri umani che registrano ciò che i sistemi di IA fanno realmente, in modo che la traccia cartacea non possa essere modificata di nascosto e possa essere compresa senza competenze specialistiche. Il secondo sono gli audit indipendenti delle implementazioni di IA, ovvero parti esterne verificherebbero il lavoro invece di lasciare che le aziende diano i voti a se stesse.

Un coro crescente

Nadella non agisce da solo. Il presidente di Microsoft Brad Smith ha appoggiato pubblicamente l'idea del freno di emergenza a settembre 2026, circa un mese prima del post di Nadella. L'appello si allinea inoltre con avvertimenti simili di altre figure di rilievo del settore tecnologico, tra cui Elon Musk e Sam Altman di OpenAI.

La voce di Microsoft ha un peso particolare in questo dibattito. L'azienda è uno dei maggiori investitori nello sviluppo dell'IA di frontiera, grazie alla partnership multimiliardaria con OpenAI e agli assistenti IA che ha introdotto nella sua gamma di prodotti.

Il dibattito sulla sicurezza dell'IA si è intensificato notevolmente nel 2026, con appelli pubblici a salvaguardie standardizzate sempre più frequenti settore. A spingere avanti la conversazione ha contribuito una serie di ammissioni degli stessi laboratori di IA sulle difficoltà di controllare sistemi complessi.

La preoccupazione specifica riguarda i cosiddetti sistemi agentici e ciò che alcuni definiscono 'Super Intelligence'. I dirigenti del settore descrivono sempre più spesso questo scenario come un rischio di perdita di controllo: la paura non è che l'IA dia una risposta sbagliata, ma che continui a fare qualcosa che nessuno le ha chiesto — e che nessuno riesca a fermarla.

Cosa significa per il settore dell'IA

Per Microsoft, la proposta svolge un doppio ruolo. Posiziona l'azienda come responsabile custode di una tecnologia potente, mentre continua a costruire e vendere quella tecnologia su larga scala. I critici potrebbero notare che un'azienda profondamente impegnata nella corsa all'IA che chiede regole di sicurezza è anche un'azienda che può permettersi di rispettarle. I concorrenti più piccoli potrebbero trovare i log a prova di manomissione e gli audit indipendenti più costosi da implementare.

La proposta lascia inoltre questioni aperte senza risposta. Chi si qualifica come 'personale autorizzato' con accesso al freno? E chi conduce gli audit indipendenti, e secondo quali standard? Le risposte, insieme all'eventuale integrazione del quadro nei prodotti IA di Microsoft, sono gli indicatori concreti da osservare mentre il dibattito passa dalle dichiarazioni pubbliche alla pratica.