L'Alto Commissario delle Nazioni Unite per i diritti umani Volker Türk ha avvertito il 7 settembre che l'intelligenza artificiale sta avanzando verso un punto in cui potrebbe rappresentare una minaccia esistenziale per l'umanità, parlando al Consiglio per i diritti umani di Ginevra.

Türk ha esortato i governi ad agire rapidamente per costruire misure di sicurezza e contenere i laboratori di IA in corsa per guidare la tecnologia dei sistemi autonomi, sostenendo che le violazioni e gli incidenti di sicurezza crescenti dimostrano il rischio che il settore sfugga a ogni controllo.

La preoccupazione centrale del funzionario ONU è che la tecnologia di IA si sviluppi più velocemente dei sistemi di governance destinati a monitorarla. L'avvertimento arriva in un panorama normativo frammentato: l'UE è andata oltre con il suo AI Act, entrato in vigore nel 2024 e che introduce progressivamente obblighi per i sistemi ad alto rischio, mentre gli Stati Uniti si sono affidati in larga misura a regole settoriali e impegni volontari, e il coordinamento internazionale vincolante resta limitato. Secondo Türk, la crescita incontrollata ha spinto la minaccia oltre la disinformazione e la perdita di posti di lavoro in un territorio esistenziale, che include sicurezza, responsabilità e assenza di una supervisione effettiva sui sistemi altamente autonomi.

Appello a un'azione internazionale urgente

Türk ha fondato il suo appello a un'azione coordinata a livello internazionale su una finestra che si sta chiudendo, in cui le capacità dell'IA possono ancora essere contenute. Ha inoltre criticato il fatto che il ritmo e la direzione dello sviluppo del settore siano sproporzionatamente nelle mani di un ristretto circolo di dirigenti e aziende tecnologiche.

Come rimedio, Türk ha proposto che i paesi che ospitano le principali aziende di IA, insieme a quelli che controllano le catene di fornitura critiche — un gruppo che include Stati Uniti e Cina, sedi della maggior parte dello sviluppo di IA di frontiera e della produzione avanzata di chip — traccino "linee rosse" che definiscano fino a dove sono disposti a lasciare andare la tecnologia.

L'Alto Commissario torna su un tema affrontato dall'ONU al primo Dialogo globale sulla governance dell'IA, tenutosi nella stessa città svizzera a luglio (dichiarazione ONU).

Al summit AI for Good dell'ITU, dove era iniziata quella conversazione, Türk ha dichiarato: "Non consideriamo gli standard di sicurezza per medicinali, automobili o aerei come ostacoli al progresso. Sono il motivo per cui le persone si fidano di quelle tecnologie in primo luogo," secondo le riprese ONU. La supervisione umana, ha aggiunto, "non può essere un semplice timbro."

Le prove presentate a quel summit includevano i risultati di Sonia Livingstone del Global Scientific Panel on AI, istituito su mandato ONU. In uno studio su 11 paesi del Sud del mondo, almeno un bambino per classe ha dichiarato di essere stato oggetto di deepfake sessuali generati con l'IA.

La direttrice di ONU Donne Sima Bahous ha evidenziato la dimensione di genere del problema. Ha osservato che circa l'88% dei principali ricercatori di IA sono uomini, e ha riferito che almeno una su quattro delle attiviste e giornaliste intervistate dalla sua agenzia aveva subito abusi online assistiti dall'IA.

Laboratori di IA e parlamentari reagiscono

L'ONU non è sola nel lanciare allarmi questa estate. Il senatore statunitense Bernie Sanders ha chiesto una pausa immediata dello sviluppo dell'IA avanzata e un divieto permanente della superintelligenza, mentre un gruppo bipartisan di parlamentari britannici ha spinto per "kill switch" per l'IA previsti per legge, dopo quella che hanno descritto come una serie di incidenti di IA incontrollata.

Tali preoccupazioni sono seguite all'affermazione di OpenAI, legata al suo modello GPT-6 Astra, secondo cui la sua tecnologia avrebbe raggiunto l'intelligenza artificiale generale, e all'ammissione di Anthropic che i propri modelli non sono "perfettamente allineati" con i valori umani.

Una parte della pressione arriva anche dall'interno del settore stesso. In un saggio di giugno ripreso da Axios, il CEO di Anthropic Dario Amodei ha sostenuto che i governi dovrebbero avere il potere legale di bloccare o annullare implementazioni pericolose di IA, e che i modelli di frontiera dovrebbero essere sottoposti a test obbligatori paragonabili a quelli per automobili, aerei o nuovi farmaci.

Nel suo aggiornamento al Consiglio, Türk ha esteso l'argomento alla guerra, sostenendo le richieste di vietare le armi capaci di uccidere senza un essere umano nel circuito decisionale — una questione su cui gli Stati membri dell'ONU discutono da anni senza concludere un trattato giuridicamente vincolante sulle armi autonome.