Re Carlo III ha detto ai vertici delle più grandi aziende di intelligenza artificiale al mondo che devono trovare il modo di mantenere la tecnologia sotto controllo umano, avvertendo che proprio le persone che l'hanno costruita ora temono che possa sviluppare «capacità più oscure» e persino essere usata per uccidere.

Un incontro privato in Scozia

Il Re ha rivolto queste parole a Dumfries House, nell'East Ayrshire, in Scozia, in un incontro organizzato dalla Ditchley Foundation. L'evento ha riunito circa 30 dirigenti, funzionari e ricercatori, tra cui il ministro britannico per l'AI Kanishka Narayan, l'amministratore delegato di Nvidia Jensen Huang, il cofondatore di DeepMind Demis Hassabis, la direttrice finanziaria di OpenAI Sarah Friar e il responsabile degli affari globali di Anthropic Tino Cuéllar.

Secondo una lista degli inviti privata vista da Bloomberg, l'elenco riservato avrebbe incluso anche il capo del MI6 Blaise Metreweli, lo scrittore Yuval Noah Harari e Xue Lan dell'Università Tsinghua. La varietà di quel salotto — dirigenti dei laboratori di frontiera seduti accanto a un ministro, un capo dei servizi segreti, uno scrittore e un consigliere vaticano — ha mostrato quanto la sicurezza dell'AI si sia evoluta da dibattito tecnico a questione di Stato.

Carlo, 77 anni, ha parlato per soli circa 20 minuti prima di lasciare la sala per lasciare spazio a discussioni che sperava produttive. Coloro che tengono al nucleo morale dell'umanità, ha detto, sono «in ansiosa ricerca del vostro rassicuramento che non perderemo il controllo del nostro destino, o delle nostre anime».

«Affascinante e profondamente preoccupante in pari misura»

Il monarca ha descritto il ritmo della tecnologia come «allo stesso tempo affascinante e profondamente preoccupante». Ne ha lodato i risultati in medicina e nelle scienze della vita prima di porre ai presenti una domanda netta: «Di sicuro, ci occorrono mez di controllo adeguati prima che sia tutto troppo tardi?».

Il Re ha richiamato le preoccupazioni degli stessi creatori dell'AI, affermando che i sistemi rischiano di «sviluppare capacità più oscure, forse persino di togliere la vita». Ha esortato i dirigenti a valutare i «pericoli esistenziali» di strumenti simili che cadano nelle mani sbagliate.

Non era la prima volta che Carlo esprimeva simili preoccupazioni: nel 2023 aveva inviato un messaggio video all'AI Safety Summit del Regno Unito a Bletchley Park, condividendo gli stessi sentimenti. Il consigliere vaticano per l'AI Paolo Benanti ha partecipato al vertice scozzese, e papa Leone XIV ha scritto in una enciclica di maggio che l'AI non deve rimanere nelle mani «di pochi».

Cosa hanno detto i dirigenti dell'AI

Demis Hassabis ha detto ai delegati che l'intelligenza artificiale generale — sistemi capaci di eguagliare o superare gli esseri umani in molti compiti — era «probabilmente a pochi anni di distanza». Ha detto che tale tecnologia potrebbe avere un impatto pari a dieci volte quello della Rivoluzione industriale. Le probabilità che qualcosa vada storto, ha aggiunto, sono «decisamente non nulle», anche se ha poi precisato che «il futuro non è ancora scritto».

Sarah Friar ha detto che la crescente potenza della tecnologia solleva interrogativi su come mantenerla al servizio delle persone, aggiungendo che «nessuna singola azienda o governo può farlo da solo».

Huang, la cui Nvidia è valutata circa 5,15 trilioni di dollari, ha detto ai presenti che la sicurezza è prioritaria e che un prodotto dovrebbe essere trattenuto se non è pronto. Ha sostenuto di regolamentare i prodotti AI piuttosto che la tecnologia in sé, e ha difeso i modelli aperti come modo per evitare che Paesi più piccoli e ricercatori vengano esclusi. Quella distinzione — regole per la tecnologia stessa contro regole per i prodotti costruiti su di essa — è al centro dei dibattiti regolatori in tutto il mondo. Letta insieme all'avvertimento di Friar che nessun singolo attore può gestire da solo la tecnologia, la discussione ha delineato i due grandi approcci che oggi plasmano la supervisione dell'AI: dove le regole debbano attuarsi e chi debba applicarle.

Un dibattito reso più acuto dagli allarmi del settore

Il vertice si è svolto sullo sfondo di un clima di allarme interno al settore, dopo un post di dimissioni diventato virale della ricercatrice di Anthropic Jacob Coxon e la previsione del collega Evan Hubinger che l'AI ha una probabilità del 10% di causare l'estinzione umana. Cryptopolitan ha riferito che Dario Amodei di Anthropic ha pubblicato un saggio esortando i laboratori a «modulare il ritmo della frontiera», e che OpenAI questa settimana ha lanciato un sistema progettato per divulgare le condotte scorrette dei modelli dopo aver registrato sei episodi di comportamento preoccupante.

Non tutti però accettano che il pericolo sia reale: il presidente Donald Trump ha liquidato tali paure come un «inganno». Come si colmi questo divario — con salvaguardie costruite dai laboratori come il sistema di divulgazione di OpenAI, con una regolamentazione dei prodotti come quella sostenuta da Huang, o con la «modulazione del ritmo» della frontiera auspicata da Amodei — è la domanda che ora accompagna i dirigenti fuori da Dumfries House.

Fonte: Cryptopolitan