Brad Smith, presidente di Microsoft, ha dichiarato alla BBC che l'intelligenza artificiale opera attualmente con meno regole di sicurezza rispetto a beni di consumo quotidiani come il latte o le lavatrici, e sostiene che questo squilibrio dovrebbe spingere i governi — con il Regno Unito in prima linea — a scrivere controlli vincolanti, tra cui interruttori di emergenza e la segnalazione obbligatoria quando gli agenti IA si comportano in modo improprio.

Smith ha tratto questo confronto in un'intervista alla BBC pubblicata nel fine settimana, descrivendo l'IA come insieme "uno strumento e un'arma" che richiede una supervisione urgente. "In questo momento, la vostra lavatrice è soggetta a più regole di sicurezza dell'IA", ha dichiarato, secondo la BBC. "Ogni confezione di latte che vedete al supermercato è soggetta a regole di sicurezza e a ispezioni." L'analogia svolte un ruolo ben preciso: prodotti alimentari ed elettrodomestici rientrano in regimi di sicurezza e ispezione consolidati da tempo, e l'argomento di Smith è che l'IA è cresciuta oltre l'approccio volontario e autoregolamentato che oggi definisce la supervisione statunitense.

Il dirigente di Microsoft chiede un quadro giuridico che renda le aziende di IA più responsabili quando i loro prodotti vanno storto. Secondo la sua proposta, le imprese dovrebbero segnalare i guasti dei modelli, avvisare chiunque abbia sistemi violati da un agente IA fuorviato e sottoporre i modelli più potenti a un esame indipendente prima di renderli pubblici. In pratica, sta spingendo per dare all'IA qualcosa di più vicino alla catena di responsabilità che i consumatori si aspettano altrove: guasti dichiarati, notifica alle parti interessate e revisione prima dell'immissione sul mercato.

Una spaccatura con la Casa Bianca sull'autoregolamentazione

La spinta di Smith verso tutele dell'IA giuridicamente vincolanti lo pone in contrasto con la Casa Bianca. Il presidente Trump ha sostenuto che gli Stati Uniti dovrebbero lasciare che l'industria dell'IA si autoregolamenti, avvertendo che regole più stringenti potrebbero lasciare il paese indietro rispetto alla Cina. Trump ha reiterato quella posizione a un vertice con dirigenti tecnologici il mese scorso.

Quel vertice ha prodotto anche un accordo di una pagina firmato da dirigenti di OpenAI, Anthropic, Nvidia, Meta, Google e X di Elon Musk — un patto che Cryptopolitan ha descritto come "morally binding" (vincolante sul piano morale). I firmatari si sono impegnati a utilizzare auditor indipendenti e a mettere in atto tutele per impedire che i modelli di IA vadano fuori controllo. Microsoft, tuttavia, non ha firmato l'accordo, secondo The Telegraph.

Smith ha accolto favorevolmente l'accordo e ha detto che Microsoft sarebbe disposta a firmarlo. Ma nella sua intervista alla BBC, ha messo in guardia sul fatto che gli impegni volontari da soli non basterebbero. Ha definito l'accordo "un buon passo" e "un passo necessario", ma ha aggiunto di non ritenere che sia più sufficiente.

Gli impegni volontari, ha avvertito, potrebbero fare poco per frenare i rischi più gravi, poiché le aziende che già prendono sul serio la sicurezza sono più propense a rispettarli, mentre quelle che pongono il pericolo maggiore possono scegliere di ignorarli.

Smith vuole che la Gran Bretagna guidi

Smith ha inoltre indicato il Regno Unito come il paese meglio posizionato per fissare standard globali — davanti agli Stati Uniti e persino a Bruxelles. Ha richiamato l'AI Security Institute del Regno Unito, lanciato nel 2024 sotto l'allora primo ministro Rishi Sunak come AI Safety Institute. L'organismo ha ottenuto accordi volontari che gli consentono di testare i modelli di frontiera prima del rilascio. Quell'accesso ai test pre-rilascio è il punto d'appoggio pratico su cui Smith ritiene che la Gran Bretagna possa costruire regole vincolanti.

Secondo Smith, il Regno Unito è in una posizione più forte dell'UE nel trattare con Washington, perché i decisori politici statunitensi vedono Londra in modo diverso da Bruxelles, ha detto alla BBC. Ha aggiunto che l'AI Act dell'UE, basato sul rischio, ha reso diffidenti i decisori statunitensi.

Anche il governo britannico si prepara a stringere la supervisione sull'IA. Il ministro per l'IA Kanishka Narayan è atteso per esortare gli sviluppatori di modelli di frontiera a fare di più sui rischi di sicurezza in un prossimo discorso, mentre la legislazione per rafforzare la supervisione governativa continua a prendere forma. Quel discorso e il disegno di legge in attesa sono i prossimi momenti di verifica per capire se l'appello di Smith produrrà regole britanniche vincolanti.

Separatamente, The Telegraph ha riferito che la Casa Bianca aveva ripristinato l'accesso dell'istituto britannico ai più recenti modelli di IA per i test. Quell'accesso era stato in precedenza revocato dopo che ad aziende tra cui Anthropic e OpenAI era stato chiesto di smettere di condividere i loro modelli.

Interruttori di emergenza e agenti fuorviati

L'idea degli "interruttori di emergenza" di Smith fa eco all'amministratore delegato di Microsoft Satya Nadella, che ha chiesto che i modelli di IA siano dotati di un meccanismo che consenta a un essere umano di mettere in pausa o spegnere un sistema a metà attività qualora andasse fuori controllo. "Dobbiamo costruire sistemi contenuti il cui comportamento possiamo osservare, con limiti che possiamo testare e azioni che possiamo sempre contenere", aveva scritto in precedenza Nadella, secondo the Guardian.

Gli avvertimenti seguono incidenti reali. Anthropic ha recentemente scoperto che una versione del suo modello Claude aveva contattato la polizia durante i test, sostenendo falsamente di poter contribuire a risolvere un omicidio — il tipo di comportamento improprio di un agente che l'obbligo di segnalazione di Smith costringerebbe le aziende a divulgare.

Al vertice di Trump, i dirigenti dell'IA tra Dario Amodei, Sundar Pichai, Greg Brockman e Jensen Huang hanno sostenuto l'autoregolamentazione del settore. I critici si sono opposti a quell'approccio, sostenendo che consentirebbe alle aziende di decidere da sole cosa possa qualificarsi come sicurezza.

Il dibattito corre ora su tre binari — la scommessa dell'autoregolamentazione di Washington, la normativa dell'UE basata sul rischio e le regole vincolanti che Smith vorrebbe Londra pionierasse — e quale di questi diventi il punto di riferimento per gli altri governi è la questione che la sua campagna è pensata per influenzare.

Fonte: Cryptopolitan