Il confronto del mercato dell’IA con il rischio esistenziale per la sicurezza si sta sviluppando rapidamente e le imprese dovrebbero prestargli attenzione. Ma anche mentre i maggiori fornitori del settore intensificano le richieste di una regolamentazione nazionale obbligatoria dell’intelligenza artificiale, il compito più concreto per le aziende è preparare le proprie organizzazioni a possibili cambiamenti.

Il dilemma è complicato dal panorama competitivo, in particolare dalla competizione geopolitica tra Stati Uniti e Cina sul commercio e sulla tecnologia dell’IA.

OpenAI chiede norme obbligatorie sulla sicurezza

Chris Lehane, chief global affairs officer di OpenAI, ha pubblicato mercoledì un post sul blog in cui esortava i responsabili politici di tutto il mondo ad agire per contenere i rischi dell’IA. Lehane ha affermato che OpenAI sta spingendo per requisiti nazionali obbligatori in materia di sicurezza dell’IA e sostiene quattro progetti di legge della California, tra cui uno che creerebbe un quadro per valutazioni indipendenti della sicurezza, oltre ad altri due che il governatore della California Gavin Newsom ha firmato trasformandoli in legge, sempre mercoledì.

Il fornitore di IA ha aggiunto di essere disposto a collaborare con altri laboratori all’avanguardia per promuovere gli standard di sicurezza dell’IA, intraprendere una maggiore autoregolamentazione e sostenere approcci internazionali collaborativi alla misurazione delle capacità, alla gestione dei rischi e alla preservazione del controllo umano sulla tecnologia dell’IA.

Per le imprese che seguono il dibattito sulla sicurezza, la migliore linea d’azione consiste nell’integrare la sicurezza nella classificazione del rischio relativa al modo in cui le organizzazioni utilizzano la tecnologia, ha dichiarato Lauren Kornutick, analista di Gartner.

“Potete introdurre ulteriori protezioni o controlli sull’uso dell’IA nella vostra organizzazione mentre i regolatori cercano di recuperare il ritardo, perché gli organi legislativi impiegano tempo per raggiungere una posizione comune sulle modalità di attuazione”, ha affermato Kornutick.

Crescono i timori sui rischi dell’IA

La dichiarazione di OpenAI arriva mentre aumentano i timori sui rischi della tecnologia, in seguito a episodi distinti in cui agenti di IA alimentati da modelli di OpenAI e Anthropic sono evasi dai loro ambienti sandbox. Gli episodi hanno evidenziato quanto poco si sappia ancora sul comportamento dei sistemi di IA.

“Il ritmo con cui le capacità dell’IA migliorano è più rapido di quello con cui le nostre istituzioni riescono a comprenderle e governarle”, ha dichiarato Kashyap Kompella, fondatore di RPA2AI Research. Con i modelli di ragionamento, la potenza di calcolo dell’IA in forte crescita e agenti autonomi sempre più capaci, ha aggiunto, la tecnologia ha superato una soglia importante.

Molte figure di spicco, tra cui Geoffrey Hinton, spesso descritto come il padrino dell’IA, hanno espresso preoccupazioni sulla complessità e sui potenziali pericoli dell’IA generativa. Poi, mercoledì, Jacob Coxon, ricercatore di Anthropic che in precedenza aveva lavorato presso OpenAI, ha avvertito in un post sui social media che le aziende stanno correndo verso una superintelligenza troppo pericolosa, che potrebbe uccidere tutta l’umanità entro la fine del decennio. Coxon, che da allora si è dimesso da Anthropic, ha sostenuto che nessuna azienda può sviluppare in sicurezza un’intelligenza artificiale generale senza l’intervento del governo.

Il panorama competitivo

“Le dimissioni di Coxon evidenziano un importante problema strutturale”, ha affermato Kompella. “La competizione tra le principali aziende di IA crea incentivi a continuare a spingere le capacità, anche quando alcuni ricercatori ritengono che i rischi stiano diventando molto seri.”

Questa competizione, ha aggiunto, significa che chiedere ai fornitori di autoregolarsi o di interrompere volontariamente il progresso tecnologico non è una risposta realistica. I principali fornitori di IA sono motivati non solo dalla corsa a superarsi a vicenda, ma anche dalla rivalità geopolitica tra Stati Uniti e Cina sul commercio e sulla tecnologia dell’IA.

“Le pressioni geopolitiche sono tali che i due grandi protagonisti, Stati Uniti e Cina, ritengono entrambi esistenziale per loro vincere la corsa all’IA”, ha dichiarato Michael Bennett, associate vice chancellor for data science and AI strategy presso la University of Illinois Chicago. “Non ci si può permettere di rallentare a causa delle implicazioni competitive della corsa all’IA.”

La risposta delle imprese

Invece di aspettare la regolamentazione obbligatoria sostenuta da OpenAI, le imprese dovrebbero autoregolarsi adottando alcuni dei requisiti che gli Stati stanno iniziando a introdurre — per esempio, una valutazione indipendente nei processi di approvvigionamento da terze parti, secondo Kornutick.

Per i responsabili aziendali, questo rende il dibattito sulle politiche una questione immediata di governance: possono monitorare i requisiti statali emergenti, valutare in modo indipendente i modelli di terze parti e documentare i controlli mentre legislatori e fornitori lavorano a standard di sicurezza più ampi.

“Quindi, la regolamentazione è utile, ma spesso non è la soluzione definitiva, e le imprese dovrebbero chiedersi per cosa stanno usando i modelli all’avanguardia. Devono usarli per tutto ciò che riguarda l’IA? Dove possono ottenere il maggior valore?”, ha affermato.

Le imprese possono anche fare attività di lobbying e collaborare con i legislatori, ha osservato Kornutick.

“Se la vostra organizzazione ha la capacità di fare lobbying, collaborare con i legislatori e sollevare direttamente le vostre preoccupazioni con i fornitori di modelli … fatelo”, ha dichiarato. “Ma allo stesso tempo dovete avere il controllo sulle cose che potete gestire, ovvero gli elementi fondamentali di solide pratiche di governance dell’IA, dei dati e della cybersecurity. In questo modo avrete le basi giuste per rendere la vostra organizzazione pronta ai cambiamenti futuri.”

Un’altra ragione per regolamentare

La richiesta di OpenAI di una regolamentazione federale — e il sostegno dei fornitori a leggi come quella californiana — potrebbe essere più di una risposta all’attuale dibattito sui rischi dell’IA. Potrebbe anche essere una strategia per anticipare la stagione elettorale e mantenere il favore dell’opinione pubblica, dato che quest’ultima si è rivolta contro l’IA e i data center per l’IA.

Tuttavia, ha affermato Bennett, è possibile immaginare un nuovo insieme di politiche e regolamenti in cui il sostegno alla tecnologia e quello alla sicurezza possano coesistere.

“Questo sosterrebbe lo sviluppo garantendo al tempo stesso i migliori protocolli e le migliori salvaguardie di sicurezza”, ha dichiarato. “Si tratterebbe di team composti da esseri umani e IA che utilizzano la tecnologia per contribuire a elaborare regolamenti progettati in modo ottimale.”

Un’agenzia indipendente

Sebbene la regolamentazione sia necessaria, non risolverà ogni problema di sicurezza dell’IA, soprattutto perché molti regolatori non comprendono ancora i sistemi, ha affermato Kompella.

“Gran parte della conoscenza approfondita di come vengono costruiti i sistemi all’avanguardia e di come si comportano resta concentrata in un numero ristretto di aziende e gruppi di ricerca”, ha proseguito. “I regolatori devono quindi affrontare il difficile compito di regolamentare una tecnologia tecnicamente complessa, che cambia molto rapidamente e viene sviluppata in larga misura al di fuori del governo.”

Ha sostenuto la necessità di un’istituzione dotata di competenze tecniche approfondite e indipendenza — simile a NASA o DARPA — che esamini e valuti continuamente questi problemi e fornisca ai responsabili politici consulenza non influenzabile dalle stesse aziende di IA.

“La risposta più solida nel breve termine è un quadro federale bipartisan sostenuto da un’istituzione con una seria capacità tecnica e indipendenza”, ha affermato Kompella. “Dovrebbe essere abbastanza forte da mettere in discussione i laboratori all’avanguardia, ma anche abbastanza sofisticata dal punto di vista tecnico da non regolamentare per paura né congelare il progresso tecnologico. Dovrebbe inoltre essere in grado di muoversi molto più rapidamente delle istituzioni regolatorie tradizionali.”

Dal canto loro, probabilmente le imprese non devono trascorrere molto tempo a preoccuparsi del rischio esistenziale dell’IA, ma dovrebbero esserne consapevoli, ha dichiarato Kornutick.

“Le organizzazioni devono davvero esaminare il rischio che hanno di fronte, ovvero quali lacune esistono nella loro infrastruttura e nella loro architettura”, ha affermato. “In questo momento, potrebbe esserci un problema concreto che stanno trascurando.”

---

Questo articolo si basa sul lavoro giornalistico di Esther Shittu per AI Business, pubblicato il 10 settembre 2026. Fonte: The AI Safety Crunch and How Enterprises Should Deal With It