Il Consiglio di Sicurezza delle Nazioni Unite è stato a lungo sede di deliberazioni su minacce esistenziali: armi nucleari, cambiamento climatico, pandemie. Il Consiglio è l'organo ONU incaricato della responsabilità primaria per la pace e la sicurezza internazionali, il che ne fa un barometro approssimativo di come i governi inquadrano collettivamente il rischio globale. Il 23 settembre 2026 ha aggiunto un nuovo elemento a quell'elenco: l'intelligenza artificiale che potrebbe sfuggire al controllo umano.

Sam Altman, amministratore delegato di OpenAI, e Dario Amodei, amministratore delegato di Anthropic, sono intervenuti davanti al Consiglio di Sicurezza durante la sessione annuale dell'Assemblea Generale ONU, il raduno di settembre a New York che riunisce capi di Stato e di governo in un unico luogo. Entrambi hanno esortato i leader mondiali a costruire quadri cooperativi sulla sicurezza dell'IA prima che la traiettoria della tecnologia superi le istituzioni preposte a governarla.

Cosa hanno detto i dirigenti

Il messaggio di Altman si è concentrato sugli interessi condivisi. Ha sostenuto che le nazioni hanno interessi comuni nella gestione delle potenti nuove tecnologie e che tali interessi condivisi, e non la competizione, dovrebbero costituire il fondamento della coordinazione internazionale.

Amodei è andato oltre, avvertendo che l'IA potrebbe rappresentare rischi reali per l'umanità se il processo di sviluppo non dispone di adeguate misure di salvaguardia. Il suo intervento all'ONU è seguito a un saggio pubblicato il 12 settembre, in cui ha richiesto pubblicamente un ritmo più misurato nello sviluppo delle capacità dell'IA e ha auspicato la presenza di valutatori indipendenti all'interno dei laboratori per garantire una responsabilità che i team interni non possono assicurare da soli.

La sessione ha avuto un'importanza che va oltre la lista dei relatori. È stato il primo briefing del Consiglio di Sicurezza ONU dedicato specific ai rischi di sicurezza dell'IA di frontiera, termine che indica generalmente i sistemi di IA più capaci all'attuale frontiera dello sviluppo, un segnale del fatto che il dibattito è migrato dalle conferenze accademiche e dai podcast della Silicon Valley ai meccanismi della diplomazia internazionale formale.

Alla discussione hanno partecipato altre voci di rilievo. Clément Delangue, CEO di Hugging Face, ha preso parte al dibattito accanto a Yoshua Bengio, uno dei ricercatori fondatori del deep learning moderno e sostenitore costante della prudenza nello sviluppo dell'IA. Anche gli sviluppatori cinesi di IA sono stati invitati a contribuire, un dettaglio degno di nota considerate le tensioni geopolitiche che attraversano l'intera conversazione.

Diplomazia, disaccordi e auto-miglioramento ricorsivo

Il rischio specifico che ha animato gran parte della sessione è stato l'auto-miglioramento ricorsivo: la possibilità che sistemi di IA avanzati possano potenziare iterativamente le proprie capacità in modi che superano una significativa supervisione umana.

L'incontro si colloca inoltre in un momento diplomatico più ampio. Il dialogo USA-Cina sulla regolamentazione dell'IA si sta espandendo silenziosamente, e l'inclusione di sviluppatori cinesi nella sessione ONU riflette un tentativo di rendere la conversazione autenticamente globale piuttosto che un esercizio di definizione di standard occidentali travestito da multilateralismo.

Quel tentativo affronta un contraccolpo politico diretto. Il Presidente statunitense Donald Trump ha respinto pubblicamente ciò che ha definito uno schema globalista per controllare l'IA, un'inquadratura che presenta la coordinazione internazionale come una minaccia alla leadership tecnologica americana piuttosto che come uno strumento per gestire rischi condivisi.

La presenza di Bengio ha aggiunto una dimensione diversa. Opera al di fuori dell'ecosistema commerciale dell'IA e non ha una roadmap di prodotto da tutelare. La sua partecipazione accanto ai CEO di OpenAI e Anthropic segnala una rara convergenza tra ricercatori accademici sulla sicurezza e leader del settore sulla necessità di meccanismi internazionali.

I prossimi passi

La sessione del Consiglio di Sicurezza non ha prodotto accordi vincolanti né risoluzioni formali. Una distinzione importante: ai sensi della Carta ONU, le risoluzioni del Consiglio di Sicurezza possono avere forza vincolante per gli Stati membri, il che rende l'azione formale del Consiglio una delle leve più forti disponibili nella governance internazionale.

Per OpenAI e Anthropic in particolare, la promozione di standard globali è un'arma a doppio taglio. Da un lato, le aziende allineate all'industria che contribuiscono a plasmare i quadri internazionali spesso ottengono standard che riflettono le loro pratiche esistenti, il che costituisce un vantaggio competitivo. Dall'altro lato, qualsiasi regime multilaterale serio comporterebbe probabilmente il tipo di valutazione e supervisione indipendente che Amodei ha descritto nel suo saggio del 12 settembre, e ciò crea attriti operativi che oggi non esistono.

Qualunque quadro internazionale di sicurezza dell'IA che escluda la Cina è per definizione incompleto, considerata la scala dello sviluppoinese dell'IA. Ma includere la Cina significa negoziare tra filosofie regolatorie e sistemi politici fondamentalmente diversi.