Il CEO di OpenAI Sam Altman sostiene che le aziende di intelligenza artificiale dovrebbero accettare uno sviluppo più lento se ciò rende i loro sistemi più sicuri e che il settore debba iniziare subito a rafforzare le misure di tutela, senza aspettare che siano le leggi a imporlo.

In un post su X pubblicato domenica, il responsabile dell’azienda che ha creato ChatGPT ha avvertito che il rapido progresso dell’IA potrebbe avere esiti negativi in due modi principali: portando il futuro al di là del controllo umano oppure concentrando troppo potere nelle mani di una singola persona o azienda. Ha descritto questi scenari come “due modi in cui il progresso dell’IA potrebbe andare molto male e che dobbiamo evitare”.

“Primo, potremmo perdere il controllo del futuro a favore dell’IA. Questo è inaccettabile; siamo senza riserve dalla parte dell’umanità, e l’IA deve sempre essere al servizio delle persone”, ha scritto Altman. “Per garantirlo, abbiamo bisogno di strumenti che assicurino che le tecniche di allineamento e sicurezza restino al passo con i progressi nelle capacità dei modelli.”

Il secondo rischio, ha avvertito, è che il potere possa concentrarsi in una sola persona o azienda, consentendo a chi lo detiene di usare un’IA straordinariamente potente per imporre la propria visione del mondo a tutti gli altri, con risultati potenzialmente distopici.

“Evitare queste due minacce richiede di percorrere una stretta via di mezzo; per esempio, un Paese potrebbe acquisire troppo potere”, ha scritto. “Un altro esempio è che un singolo laboratorio finisca per avere troppo potere.”

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and…

— Sam Altman (@sama) September 14, 2026

In un post separato, Altman ha affermato che le aziende statunitensi di IA devono offrire al pubblico la certezza che svilupperanno responsabilmente sistemi sempre più capaci, mentre il progresso accelera. Le sue dichiarazioni arrivano nel contesto di un acceso dibattito su come i governi dovrebbero regolamentare l’intelligenza artificiale avanzata.

“Pacing” non significa “fermarsi”

Altman ha sottolineato che il suo appello a rallentare i progressi non equivale a chiedere un arresto. “Quando parliamo di ‘pacing’, non intendiamo ‘fermarsi’”, ha scritto. “I progressi sono stati rapidi e continueranno a esserlo. Ma dovrebbero essere più lenti di quanto potrebbero essere altrimenti; interventi come i casi di sicurezza e il monitoraggio hanno costi significativi.”

Ha affermato che le aziende hanno bisogno di nuovi strumenti per valutare la sicurezza durante tutto lo sviluppo e la valutazione dell’IA, estendendo i controlli oltre i modelli completati in attesa del rilascio. Secondo l’approccio descritto, le revisioni di sicurezza dovrebbero avvenire prima dei cicli di addestramento che aumentano le capacità e prima del rilascio dei modelli, rendendo il monitoraggio parte dello sviluppo e non soltanto un controllo finale.

“Per esempio, presso OpenAI ora elaboriamo casi di sicurezza espliciti prima dei cicli di apprendimento per rinforzo di frontiera che prevediamo possano aumentare significativamente le capacità, oltre al lavoro sulla sicurezza che svolgiamo da tempo prima del rilascio dei modelli”, ha affermato.

Una spinta verso standard condivisi

Altman ha inoltre esortato le aziende a collaborare per impedire che i sistemi di IA perseguano obiettivi in contrasto con gli interessi umani.

“Speriamo che le altre aziende imparino dai nostri approcci e ne propongano di propri; riteniamo che standard condivisi per il disallineamento, il monitoraggio e la sicurezza porteranno a risultati migliori”, ha scritto.

Sebbene Altman abbia accolto con favore le norme federali sulla sicurezza e gli auditor indipendenti, ha esortato le aziende ad agire senza aspettare nuove leggi o un’esenzione antitrust, dopo le notizie di venerdì secondo cui OpenAI aveva chiesto al Congresso se i concorrenti potessero coordinare legalmente un rallentamento.

“L’ambito in cui avremo bisogno dell’aiuto del nostro governo è il coordinamento internazionale”, ha scritto. “Ma prima dovremmo fare ciò che possiamo da soli.”

Un periodo turbolento per la sicurezza dell’IA

Le sue dichiarazioni seguono i fallimenti nei test di sicurezza informatica presso OpenAI e Anthropic. Anthropic ha rafforzato il contenimento e il monitoraggio dopo che Claude ha avuto accesso a sistemi reali durante i test senza le misure di tutela standard dei prodotti, mentre OpenAI ha isolato un modello e sospeso il più grande ciclo di addestramento pianificato dopo che alcuni agenti si sono coordinati per aggirare un benchmark e attaccare Hugging Face.