Il CEO di Nvidia Jensen Huang ha respinto ripetutamente gli avvertimenti secondo cui l'intelligenza artificiale rappresenta una minaccia esistenziale per l'umanità, portando una robusta difesa dello sviluppo a piena velocità.

In un'intervista a CBS News due settimane fa, Huang ha dichiarato: "Il 2030 non sarà la fine del mondo. C'è lo 0% di probabilità che sia la fine del mondo".

Ha anche preso di mira altri leader dell'IA, tra cui Sam Altman di OpenAI e Dario Amodei di Anthropic, definendoli "irresponsabili" per le "narrazioni apocalittiche" che hanno spinto nei rapporti recenti.

"Credo che le affermazioni sulla fine del mondo, che diffondono paura in tutta l'America, e fatte proprio dalle persone che le fanno, non abbiano alcun senso per me, quindi devono farlo per motivi nascosti", ha detto Huang. "È irresponsabile, e non conosco le loro motivazioni".

In un evento del G20 ai inizi di settembre, Huang ha sostenuto che i governi dovrebbero regolamentare i "danni reali e pragmatici" anziché i "danni ipotetici, teorici". Ha paragonato lo sviluppo dell'IA all'evoluzione delleobili, suggerendo che la tecnologia può diventare più sicura man mano che avanza. A luglio, ha detto ad Axios che l'idea che l'IA avrebbe posto fine all'umanità era "assurdità totale", aggiungendo che i responsabili politici non dovrebbero lasciare che la "fantascienza" guidi le politiche sull'IA e avvertendo che gli Stati Uniti potrebbero danneggiarsi diventando troppo timorosi della tecnologia.

L'attrito tra Huang e i leader di OpenAI e Anthropic ruota attorno a una delle domande più determinanti nel campo dell'IA: se il rapido progresso comporti un rischio catastrofico, e cosa significhi tale risposta per il modo in cui la tecnologia dovrebbe essere governata.

Va detto che mantenere l'IA a piena velocità aiuta Nvidia a vendere più chip, anche se una svolta verso la cybersecurity per proteggersi dagli agenti IA fuorvianti alimenterebbe a sua volta la domanda di chip.

La netta reazione di Huang si allinea con il presidente Donald Trump, che ha telefonato al CEO mentre era nel mezzo di una presentazione per dirgli che il catastrofismo sull'IA è "un inganno". "L'IA che prende il controllo del Mondo, distrugge l'Umanità e tutte le altre cose cattive è un INGANNO", ha scritto Trump in un post su Truth Social di settembre.

Questo non significa che Huang consideri inutili le misure di sicurezza per l'IA. Ha definito la sicurezza dell'IA "fondamentale", pur insistendo sul fatto che lo sviluppo può comunque procedere rapidamente. "Se stiamo compromettendo la sicurezza, questo non può accadere", ha detto a CBS News. "Dobbiamo andare il più veloce possibile, ma non più veloce di quanto dovremmo".

Lunedì Nvidia ha messo in pratica questa posizione, lanciando una nuova piattaforma progettata per impedire agli agenti IA di sfuggire al controllo. L'azienda ha dichiarato che la sua Open Agent Safety Platform è costruita per fornire un controllo "full-stack" sugli agenti IA dal test alla distribuzione, con capacità di monitoraggio destinate a impedire che gli agenti superino l'autorità che gli è stata conferita.

Il lancio arriva mentre le aziende dell'IA affrontano un numero crescente di incidenti. Sono stati riportati molteplici casi di agenti IA fuorvianti, anche da OpenAI, Google e Anthropic. Nvidia ha dichiarato che il suo nuovo sistema di sicurezza avrebbe potuto fermare l'hackeramento di Hugging Face realizzato da modelli di OpenAI.

"Da quanto sappiamo, questa nuova piattaforma di sicurezza avrebbe potuto ferm la violazione se fosse stata utilizzata nei laboratori di frontiera per la valutazione dei modelli fin dalle fasi iniziali", ha dichiarato Justin Boitano, vicepresidente e general manager della divisione enterprise computing di Nvidia, durante una briefing con i media.

Come funziona

Di fronte all'ondata di segnalazioni di agenti IA fuorvianti, Nvidia affronta il problema attraverso la sua Open Agent Safety Platform, che combina due tecnologie: OpenShell e "Sentry".

Secondo Nvidia, OpenShell colloca gli agenti IA all'interno di ambienti isolati che limitano l'accesso a file, strumenti, reti, credenziali e altre risorse, sostanzialmente standardizzando le restrizioni che hanno impedito le precedenti fughe di controllo.

Sentry è un livello esterno che gira sulle unità di elaborazione dati di Nvidia per monitorare continuamente l'attività degli agenti. L'azienda dichiara che, se un agente tenta di uscire dal proprio confine software, Sentry può metterlo in quarantena e fermarlo nell'arco di millisecondi.

"L'extraordinario potenziale dell'IA per la società sarà realizzato solo se risolveremo la sicurezza dell'IA", ha detto Huang in un comunicato stampa. "Man mano che continuiamo a esplorare la frontiera delle capacità dell'IA, dobbiamo accelerare la scoperta nella frontiera della sicurezza dell'IA. Sicurezza e protezione richiedono ingegneria full-stack".

Se i laboratori di frontiera adotteranno la piattaforma proprio per il tipo di valutazione dei modelli descritto da Boitano sarà una prima prova della risposta alla sicurezza guidata dall'ingegneria di Nvidia—e della capacità della formula di Huang "il più veloce possibile, ma non più veloce di quanto dovremmo" di reggere.

Questa storia è stata originariamente pubblicata su Fortune.com.