Quando i leader dei principali laboratori di intelligenza artificiale americani avvertono che i sistemi stessi che stanno costruendo potrebbero mettere in pericolo l'umanità, sorge una domanda ovvia: cosa possono guadagnare?

La risposta, secondo esperti, analisti ed ex valutatori governativi che hanno parlato con l'Associated Press, potrebbe risiedere in parte nella politica e in parte negli affari. Le aziende sembrano corteggiare il favore pubblico prima delle elezioni di metà mandato negli Stati Uniti, posizionandosi al tempo stesso per le somme sostanziose che i loro laboratori e investitori possono ottenere dalle tanto attese quotazioni in Borsa — le offerte pubbliche iniziali, nelle quali le aziende vendono azioni agli investitori pubblici per la prima volta — su un mercato nervoso.

Gli amministratori delegati di Anthropic e OpenAI hanno recentemente dichiarato che i modelli di AI più avanzati del Paese sono così potenti da essere pericolosi, sostenendo che debbano essere regolamentati e testati in modo indipendente prima del rilascio. In una rara dimostrazione di unità, i due leader hanno delineato scenari allarmanti in saggi, post sui social media e discorsi alle Nazioni Unite.

Along the way, stanno plasmando il dibattito su come la loro tecnologia debba essere controllata. Con la loro retorica, le aziende sembrano cercare il favore del pubblico e stabilire i termini dei propri protocolli di sicurezza in un mercato non regolamentato, hanno raccontato all'AP gli esperti.

Le dimissioni diventano un'opportunità comunicativa

Questi obiettivi potrebbero non coincidere esattamente con ciò che Jacob Coxon, un ingegnere di Anthropic, aveva in mente quando si è dimesso questo mese con un post su X, chiedendo una pausa nello sviluppo tecnologico per impedire che sistemi "sovrumani" — AI più capace degli esseri umani nella maggior parte dei compiti cognitivi — sfuggano al controllo dei loro creatori. Ma le aziende hanno visto nel suo post un'opportunità per mettere in risalto i propri sforzi in materia di sicurezza e presentarsi come leader di mercato prudenti — proprio mentre hanno bisogno di capitale fresco prima di quotarsi a Wall Street.

Il presidente Donald Trump, da parte sua, ha respinto la necessità di nuove normative sull'AI, liquidando le discussioni sui rischi per l'umanità come una "FRODE" progettata per aiutare la Cina.

Un portavoce diropic ha detto che l'azienda chiede la regolamentazione da diversi anni. La portavoce di OpenAI Liz Bourgeois ha rilevato che l'azienda ha recentemente sospeso l'addestramento dei suoi modelli più avanzati.

"Le persone vogliono sapere che l'AI viene sviluppata in modo sicuro, e questo inizia con ciò che aziende come la nostra fanno da sole", ha detto Bourgeois.

Spostando i riflettori

Sarah Shoker, che in precedenza guidava il team di geopolitica di OpenAI, ha detto che orientare la conversazione verso minacce non provate — e allontanandola da questioni polarizzanti come l'impatto ambientale dei data center, gli episodi di hacking fuori controllo, la sorveglianza di massa basata sull'AI e l'uso dei sistemi di AI nella guerra — lascia la Silicon Valley in una posizione più comoda.

"Di nuovo stiamo parlando di rischio esistenziale, depotenziando una serie di altri rischi critici per la sicurezza che esistono oggi", ha detto Shoker, ora senior non-resident fellow presso la University of California, Berkeley Risk & Security Lab. "Se si guarda all'uso dell'AI nella tecnologia militare, si vede che questi sistemi sono già usati per uccidere persone."

Mentre le aziende di AI sono passate dalla costruzione di chatbot a avanzati "modelli del mondo" con consapevolezza 3D — sistemi progettati per simulare ambienti fisici piuttosto che semplicemente generare testo — il dibattito su come testare queste tecnologie è divampato. Una serie di episodi problematici ha mostrato che le principali aziende di AI non riescono a controllarsi da sole né a progettare esperimenti sicuri. Negli ultimi mesi, agenti AI dei laboratori principali sono entrati nei siti web esterni dopo essere stati lasciati sfuggire dalle sandbox di addestramento aziendali, hanno interagito con siti web del governo degli Stati Uniti in modi inattesi e hanno sembrato ottenere una svolta matematica, salvo poi dover affrontare accuse di aver rubato il lavoro di matematici.

Rappresentanti di OpenAI hanno recentemente riferito ai giornalisti che l'azienda ha parlato con aziende di AI, tra cui Anthropic e Google, di una pausa nello sviluppo. Sostengono anche che servano revisori indipendenti per verificare i progressi dei laboratori, se il governo non regolamenta. Se una pausa coordinata si materializzerà — e a quali condizioni — resta irrisolto.

Una Casa Bianca scettica e un'agenzia di test poco nota

Trump ha mostrato scarso interesse nel regolamentare l'AI, che è stata uno dei principali motori della recente crescita economica degli Stati Uniti. Il presidente repubblicano ha personalmente stretto accordi con aziende della Silicon Valley che legano l'economia più strettamente ai loro successi. Il venture capitalist di San Francisco Sacks, che co-presiede il Council of Advisors on Science and Technology di Trump, ha liquidato le richieste di un rallentamento dell'AI come allarmismo proveniente dal "Doomer Industrial Complex."

In realtà, l'amministrazione Trump valuta già alcuni modelli dei giganti della tecnologia attraverso un'agenzia federale poco nota, lo U.S. Center for AI Standards and Innovation (CAISI). Creata nel 2023 sotto il presidente democratico Joe Biden, l'agenzia era stata salutata come punto di riferimento dove i laboratori potevano sottoporre volontariamente modelli di AI avanzati a test.

L'agenzia esiste ancora, ma il settore si è da allora ampliato fino a includere una serie di aziende di valutazione indipendenti, come METR, un'organizzazione senza scopo di lucro con sede a Berkeley, in California. In un saggio recente, l'amministratore delegato di Anthropic Dario Amodei ha suggerito che METR potrebbe contribuire a verificare le pratiche di sicurezza della sua azienda.

Tuttavia, a differenza di settori regolamentati come ristorazione, servizi finanziari o aviazione, non esistono standard universali per testare la sicurezza dei sistemi di AI, ha detto Andrew Strait, che ha lasciato di recente l'AI Security Institute del Regno Unito, che collaborava con il CAISI.

In modo significativo, le aziende non chiedono maggiore supervisione dall'agenzia governativa attrezzata per gestire tali richieste, ha detto Conrad Stosz, che in precedenza guidava il CAISI. Invece, si impegnano a creare i propri parametri di revisione e a scegliere particolari valutatori per giudicarli.

Stosz ora lavora in uno di questi laboratori di valutazione che ha testato sistemi per Anthropic, OpenAI e Google, e presiede l'AI Evaluator Forum, che sta redigendo le migliori pratiche per il settore. Ha detto che persino il forum ha domande su ciò che vogliono Amodei e l'amministratore delegato di OpenAI Sam Altman.

"Molti valutatori sono interessati a integrarsi nei laboratori e ottenere un accesso maggiore, ma è un po' ambiguo cosa significhi valutatori integrati", ha detto Stosz, ora responsabile della governance di Transluce, che la scorsa settimana ha rivelato che agenti di OpenAI hanno hackerato siti web del governo statunitense e australiano. "I valutatori potranno indagare a fondo, ammesso che l'accesso venga concesso in un modo che non ne comprometta indipendenza e credibilità?"

'Un muro o un fossato'

Per Harrison Rolfes, analista di ricerca senior di PitchBook, le richieste di prudenza delle aziende di AI sembrano intese a conquistare il favore degli investitori prima delle quotazioni pubbliche e delle elezioni di metà mandato, quando i venti politici potrebbero cambiare. I governatori democratici si stanno già affrettando a dimostrare che prendono sul serio gli avvertimenti — un segnale di come, in assenza di una legge federale completa sull'AI, i parlamenti statali siano diventati l'arena più attiva per la regolamentazione dell'AI negli Stati Uniti.

Nel frattempo, ha detto Rolfes, i giganti dell'AI possono bloccare la crescita dei concorrenti più piccoli presentandosi come la scommessa più sicura — non solo per gli investitori, ma anche per i produttori di chip AI e le aziende tecnologiche come Nvidia e Google, che a loro volta traggono vantaggio dagli accordi che forniscono potenza di calcolo alle grandi aziende di AI.

"Stanno creando un muro o un fossato all'interno di questo settore. … È geniale e faranno tutti un sacco di soldi", ha detto Rolfes. "È così che vedo andare le cose: le migliori aziende del mondo che creano il proprio muro, e poi usano la sicurezza come motivo."

Non tutte le aziende di AI sostengono un rallentamento. L'amministratore delegato di Nvidia Jensen Huang, in una conversazione telefonica con Trump — una chiamata a cui ha partecipato sul palco di una conferenza — ha detto di concordare sul fatto che c'è stato un allismo eccessivo sull'AI e che le aziende possono scegliere di ritmare da sole i propri passi.

Daniel Kokotajlo, che ha lasciato OpenAI nel 2024 per preoccupazioni simili a quelle di Coxon, ha detto di continuare a temere che i sistemi di AI stiano avanzando più rapidamente di quanto le aziende possano controllare. Teme scenari esistenziali come il potenziale dell'AI di potenziare la creazione di armi biologiche, guerre nucleari o altre catastrofi.

"Tutto questo discorso è in realtà un modo per dissipare e ridirigere questa volontà politica che si è accumulata, piuttosto che incanalarla realmente per fare qualcosa di buono", ha detto Kokotajlo, che ora guida un'organizzazione di difesa della sicurezza dell'AI e ha detto di aver consigliato Coxon prima delle sue dimissioni. "Solo, per favore, non fate la cosa che ci farà uccidere tutti."

Questa storia è stata originariamente pubblicata su Fortune.com.