Il liberale Cato Institute avverte che una pausa imposta dal governo allo sviluppo dell'intelligenza artificiale potrebbe proteggere le aziende dominanti dalla concorrenza e ritardare tecnologie utili, un monito lanciato mentre legislatori e dirigenti del settore AI spingono per nuove restrizioni. Il modo in cui Washington deciderà infine di governare la tecnologia potrebbe determinare non solo come verrà supervisionata la sicurezza, ma anche quali aziende potranno costruire e distribuire sistemi di AI.

In un articolo di blog pubblicato lunedì, Jennifer Huddleston, ricercatrice di politiche tecnologiche del think tank, ha sostenuto che le aziende possono affrontare rischi specifici attraverso tutele volontarie e standard condivisi senza fermare lo sviluppo dell'intero settore.

"Una pausa imposta dal governo solleverebbe diverse preoccupazioni e probabilmente non realizzerebbe i presunti miglioramenti in termini di sicurezza", ha scritto, aggiungendo che le regole governative sono lente da scrivere e ancora più lente da modificare. "Un quadro normativo costruito per i modelli di oggi potrebbe ostacolare attivamente quelli di domani, impedendo risposte potenzialmente migliori o più sicure."

Huddleston riconosce i rischi dell'AI ma avverte che regole modellate attorno agli sviluppatori leader potrebbero aiutarli a consolidare il potere e limitare la concorrenza—una forma di cattura del mercato che renderebbe più difficile competere per le aziende più piccole. Ha anche sostenuto che sospendere lo sviluppo statunitense potrebbe indebolire le difese di cybersicurezza del paese mentre i rivali stranieri continuano ad avanzare.

Il suo intervento fa seguito a una proposta del senatore indipendente del Vermont Bernie Sanders e del deputato democratico del Texas Greg Casar di sospendere lo sviluppo dell'AI avanzata fino all'adozione di standard federali di sicurezza e di vietare permanentemente la superintelligenza artificiale—un sistema ipotet in grado di eguagliare o superare le prestazioni umane nella maggior parte dei compiti cognitivi. Le richieste di una slowdown deliberata erano già emerse in passato: nel marzo 2023, una lettera aperta organizzata dal Future of Life Institute e firmata da migliaia di persone, tra cui Elon Musk, esortava i laboratori di AI a sospendere per almeno sei mesi l'addestramento di sistemi più potenti di GPT-4. Il CEO di OpenAI Sam Altman, nel frattempo, ha appoggiato uno sviluppo più lento e ha invitato le aziende a rafforzare le tutele senza attendere le regole federali di cui lui stesso sostiene l'adozione.

"Molte di queste richieste sono accompagnate da scenari apocalittici degni della fantascienza sul peggio che potrebbe accadere", ha scritto Huddleston. "Eppure una corsa a regolamentare per paura potrebbe avere conseguenze negative a lungo termine maggiori del rischio che dichiara di affrontare."

Jack Dorsey, presidente e co-fondatore di Block e co-fondatore di Twitter, ha espresso preoccupazioni simili sulla concorrenza in un post su X lunedì.

"Le aziende che guidano l'intelligenza artificiale meritano di essere ascoltate. Hanno competenze e interessi commerciali da proteggere", ha scritto Dorsey. "Regole costruite attorno alle loro risorse potrebbero renderle le uniche in grado di partecipare. Anche una sincera preoccupazione per la sicurezza può creare una barriera all'ingresso."

Dorsey ha detto di favorire release aperte che i ricercatori possano ispezionare, modificare e testare, con valutazioni e limiti noti pubblicati, così che soggetti esterni possano contestare le dichiarazioni di sicurezza degli sviluppatori.

"Sostengo il controllo. Mi oppongo a limiti su tutto il settore negoziati dai leader di oggi, perché potrebbero escludere le persone che potrebbero mettere in luce i fallimenti o costruire alternative", ha scritto. "Preservare il vantaggio commerciale di un'azienda non è un obiettivo di sicurezza."

Dorsey ha anche detto di sostenere test indipendenti e un'applicazione responsabile pubblicamente, compreso il trattenere i modelli quando le prove dimostrano che la loro diffusione aumenterebbe in modo significativo rischi catastrofici che misure più ristrette non possono affrontare adeguatamente.

"Il calcolo può innescare controlli senza limitare lo sviluppo. L'esame non è un permesso da parte di un regolatore o di un concorrente", ha detto. "Non voglio requisiti generali di approvazione o periodi di attesa. Qualsiasi ritardo di pubblicazione imposto per motivi di sicurezza deve essere giustificato dall'eccezione per il rischio catastrofico."

Il dibattito su come governare l'AI resta irrisolto. Una recente analisi dell'Atlantic Council sostiene che la pressione competitiva richiede standard di sicurezza dell'AI vincolanti, mentre la diffidenza tra Stati Uniti e Cina complica gli accordi internazionali. La cooperazione tra sviluppatori solleva anche preoccupazioni antitrust: OpenAI ha chiesto ai legislatori se gli svilatori rivali possano legalmente concordare di rallentare lo sviluppo. Se e come verranno scritti gli standard federali di sicurezza, e come i regolatori tratteranno in definitiva il coordinamento tra sviluppatori, contribuirà a definire la prossima fase del dibattito.