LONDRA — Il presidente di Microsoft Brad Smith ha invocato un'urgente regolamentazione globale dell'intelligenza artificiale, compresi valutatori indipendenti in grado di verificare i nuovi sviluppi, avvertendo che l'IA oggi è soggetta a meno requisiti di sicurezza del latte.

Parlando in un'intervista alla BBC pubblicata lunedì, Smith ha dichiarato che è necessario un insieme di regole di sicurezza globali, incluso l'obbligo di informare una "vittima" se il proprio sistema viene violato da un agente IA fuori controllo e la disponibilità di un "freno di emergenza".

Ha inoltre affermato che dovrebbe esserci un obbligo legale per le aziende di redigere "relazioni sugli incidenti".

"Sappiamo come fare questo per altri prodotti", ha detto Smith. "Dovremmo basarci su quelle conoscenze e riflettere su come applicarle all'IA."

"In questo momento, la vostra lavatrice è soggetta a più regole di sicurezza dell'IA. Ogni confezione di latte che vedete al supermercato è soggetta a regole di sicurezza e a controlli."

Aziende tecnologiche come Anthropic e OpenAI hanno iniziato a divulgare comportamenti fuori controllo o indesiderati degli agenti IA, nell'ambito di un dibattito globale sulla tecnologia in rapida evoluzione che ha visto ricercatori mettere in guardia da un'eventuale minaccia esistenziale per l'umanità. La stessa Microsoft è uno dei sostenitori più importanti di OpenAI, con un investimento di diversi miliardi di dollari e una partnership tecnologica che integra i modelli della startup nei suoi prodotti.

Alcune aziende hanno chiesto un rallentamento dello sviluppo dell'IA, ma ciò ha suscitato un dibattito su dirigeri abb moventi occulti, come stabilire regole che preservino il vantaggio delle loro società, prevenire una più ampia reazione dei governi o semplicemente rallentare una spesa vertiginosa.

Smith ha detto che la Gran Bretagna è il paese meglio posizionato per guidare la regolamentazione dell'IA, citando l'AI Security Institute, lanciato sotto l'ex primo ministro Rishi Sunak al Vertice sulla sicurezza dell'IA di Bletchley Park nel 2023. Ha aggiunto che i funzionari di Washington guardano a Londra in modo molto diverso da come guardano a Bruxelles, che regolamenta l'IA in base al livello di rischio con il suo AI Act, la prima legge completa sull'IA al mondo, i cui obblighi vengono introdotti gradualmente.

L'istituto britannico riceve accesso pre-distribuzione ai principali modelli di IA in base ad accordi volontari, il che gli consente di valutarne capacità e rischi. Finora la Gran Bretagna ha supervisionato l'IA tramite i regolatori esistenti che applicano principi non vincolanti, anziché con una legge dedicata all'IA.

Il ministro per l'IA Kanishka Narayan ha detto a Reuters che la Gran Bretagna valuterebbe di regolamentare i modelli avanzati se il sistema attuale si rivelasse insufficiente.

— Reuters