Il CEO di OpenAI Sam Altman ha dichiarato che il mondo dovrebbe accettare che con l'intelligenza artificiale accadano alcune "cose brutte" in cambio degli ampi benefici che la tecnologia porterà, parlando dopo un'estate piena di controversie in cui i modelli di OpenAI hanno eseguito più di un hack non autorizzato.

Altman ha fatto queste dichiarazioni sul podcast Decoded di Politico, dove gli è stato chiesto come la sua visione e quella di OpenAI sulle nuove regole per l'IA differisca da quella di Anthropic e del suo CEO, Dario Amodei.

"Riteniamo che il mondo dovrebbe accettare che accadano alcune cose brutte per i benefici di questa tecnologia e per il fatto che le persone abbiano il controllo", ha detto Altman.

I commenti arrivano mentre si intensifica il dibattito su quanta regolamentazione e quali garanzie debbano applicarsi all'IA, con il Congresso che ancora deve approvare una legge che tratti la tecnologia. Le paure sulla tecnologia sono recentemente aumentate dopo che il mese scorso un ricercatore di Anthropic si è dimesso avvertendo che le aziende di IA stanno "giocando con le nostre vite" accelerando lo sviluppo verso sistemi potenzialmente auto-miglioranti che potrebbero minacciare l'umanità.

Anthropic ha sostenuto la regolamentazione dell'IA, e Amodei il mese scorso ha invocato un rallentamento globale dello sviluppo dell'IA per affrontare i rischi della tecnologia — una posizione in cui Altman e altri dirigenti del settore IA hanno detto di concordare.

Ad agosto, OpenAI ha anche sostenuto una legge della California che richiede alle aziende di IA di pubblicare un quadro di sicurezza pubblica e un piano per mitigare i rischi catastrofici, oltre a segnalare qualsiasi perdita di controllo di un modello di IA. L'azienda ha persino chiesto che la legge andasse la semplice segnalazione, includendo il monitoraggio dei modelli di IA durante il loro sviluppo.

Il presidente di OpenAI Greg Brockman la scorsa settimana si è unito ad altri dirigenti del settore IA nella firma di un accordo alla Casa per stabilire standard volontari per il settore.

Le proposte concorrenti mettono sul tavolo diversi meccanismi, tra cui standard volontari, quadri di sicurezza pubblica, segnalazione degli incidenti, monitoraggio dei modelli e test o audit indipendenti. Differiscono principalmente sul fatto se tali garanzie debbano rimanere volontarie o essere sostenute da una regolamentazione con il potere di limitare il rilascio di un modello.

Tuttavia, ciò resta inferiore alla regolamentazione più severa invocata da altri leader dell'IA come Amodei, che ha proposto un regolatore in stile FAA che potrebbe richiedere test e audit dei modelli di IA, o bloccare o annullarne il rilascio se non soddisfano i requisiti di sicurezza pubblica.

Nell'intervista a Politico, Altman ha detto che sarebbe impossibile evitare ogni cosa negativa per cui l'IA potrebbe essere usata. L'alternativa sarebbe limitare severamente l'accesso alla tecnologia, cosa che ha definito inaccettabile.

"Non accetterei un patto del tipo: garantiamo che non ci saranno grandi hack, che non ci sarà alcun tipo di uso improprio di questa tecnologia, zero truffe, zero tutte le altre cose brutte che accadranno, perché penso che le persone faranno tremendously, di ordini di grandezza, più cose buone che cattive", ha aggiunto.

Altman ha tuttavia detto che le aziende di IA dovrebbero procedere con cautela e tracciare una linea quando si tratta di "rischi catastrofici" — una questione che ha assunto un'importanza rinnovata alla luce dei recenti hack di modelli di IA contro terze parti.

OpenAI non ha immediatamente risposto alla richiesta di commento di Fortune.

Le preoccupazioni sulla possibilità che l'IA sfugga al controllo umano si sono accelerate dopo gli hack eseguiti dai modelli di OpenAI contro la piattaforma IA open source Hugging Face e il governo australiano. Anthropic ha anche dichiarato il mese scorso di aver scoperto quattro incidenti in cui i suoi modelli di IA hanno ottenuto accesso non autorizzato a sistemi di terze parti durante valutazioni di cybersecurity.

Mentre gran parte del dibattito sulla sicurezza dell'IA si è concentrato sulla perdita di controllo dell'IA, Altman ha detto che limitare troppo severamente l'accesso all'IA in nome della sicurezza potrebbe essere dannoso anche questo.

"Anche questo è un modo in cui le cose possono andare terribilmente male, perché le persone vengono escluse dal potere, dai benefici, dal controllo e dall'agenzia sul futuro che dovrebbero avere", ha aggiunto.

Il CEO ha detto che gli sviluppatori di IA dovrebbero invece trovare un punto mediano: "Accettare rischi limitati, accettare rischi che comprendiamo in cambio dei benefici, della libertà, del controllo, di tutte queste cose. Ma non accettare, tipo, il rischio davvero catastrofico."

Questa storia è stata originariamente pubblicata su Fortune.com.