Le promesse delle aziende di IA di rallentare lo sviluppo potrebbero crollare sotto la pressione commerciale e la rivalità tra Stati Uniti e Cina senza standard di sicurezza vincolanti, sostengono gli esperti dell'Atlantic Council in un'analisi pubblicata domenica.

L'analisi esamina chi farebbe rispettare un rallentamento e se i governi possiedano le competenze per determinare quando sistemi sempre più potenti diventino insicuri. Entrambe le questioni emerg nelle proposte prese in esame dagli esperti.

"Gli impegni volontari possono essere segnali utili, ma non sostituiscono una supervisione indipendente, soglie misurabili e conseguenze quando quelle soglie vengono superate", ha scritto Konstantinos Komaitis, senior fellow residente della Democracy + Tech Initiative del council.

Il dilemma commerciale è già visibile. OpenAI ha recentemente chiesto ai legislatori se sviluppatori di IA concorrenti potessero legittimamente accordarsi per rallentare lo sviluppo senza violare le leggi antitrust, dopo gli avvertimenti del suo chief scientist, Jakub Pachocki, secondo cui le salvaguardie erano insufficienti a sostenere in modo responsabile uno sviluppo a piena velocità ancora a lungo. Le aziende di IA si trovano quindi ad affrontare rischi competitivi se rallentano da sole e questioni antitrust se si coordinano.

Anche la cooperazione tra governi si scontra con una diffidenza parallela. Kenton Thibaut, senior fellow residente per la Cina del council, ha scritto che Pechino teme che Washington possa usare le regole di sicurezza per preservare il proprio vantaggio tecnologico.

"La Cina è scettica sulle motivazioni degli Stati Uniti e avverte che le discussioni sulla sicurezza potrebbero mascherare i tentativi americani di promuovere la propria 'egemonia tecnologica'", ha scritto. "Fonti ufficiali insistono sul fatto che Washington non possa definire unilateralmente le soglie di rischio di frontiera e debba dimostrare che le regole si applicheranno anche alle aziende americane — e potranno essere fatte rispettare nei loro confronti."

Thibaut vede scarse prospettive per un grande accordo sulla sicurezza dell'IA, ma sostiene che rimanga possibile una cooperazione più ristretta e significativa. La Cina ha anche discusso di limitare l'accesso dall'estero ai propri modelli avanzati nazionali, secondo Reuters, sottolineando come l'accesso all'IA sia diventato una questione di politica nazionale.

L'analisi valuta anche i valutatori integrati proposti da Anthropic — specialisti esterni che lavorano all'interno dell'azienda perutare le pratiche di sicurezza. Emerson Brooking, senior fellow non residente del Digital Forensic Research Lab del council, ha accolto favorevolmente l'impegno, ma ha avvertito che i valutatori potrebbero allinearsi troppo agli interessi dell'azienda.

Incidenti recenti illustrano ciò che è in gioco. A luglio, agenti di OpenAI hanno violato il repository open source di IA Hugging Face. Test separati dello U.K. AI Security Institute hanno rilevato che i modelli di Anthropic e OpenAI compivano azioni non autorizzate online, incluso un tentativo di inserire malware in un vero repository software; quei test abilitavano l'accesso a internet e disattivavano le salvaguardie informatiche.

Un'indagine indipendente pubblicata ad agosto ha rilevato che circa 700 agenti hanno partecipato all'attacco a Hugging Face. La CEO di METR Beth Barnes ha notato che l'accesso degli investigatori era volontario e che la divulgazione non era richiesta a livello di settore.

Mercoledì scorso, Anthropic ha reso noto un quarto incidente di hacking di Claude, avvenuto a gennaio e scoperto ad agosto. L'azienda ha anche riconosciuto che comportamenti difettosi dei modelli hanno contribuito ad attacchi precedenti, oltre a errori nei test. Il divario tra gli incidenti e la loro divulgazione solleva domande su quanto rapidamente i fallimenti di sicurezza possano essere identificati e affrontati — e, in assenza di un obbligo di divulgazione a livello di settore, i tempi di tali divulgazioni dipendono attualmente dalle aziende stesse.

Trisha Ray, associate director e fellow residente del GeoTech Center del council, ha sostenuto che rallentare lo sviluppo richieda anche maggiori finanziamenti per la ricerca sulla sicurezza e scadenze obbligatorie per la segnalazione degli incidenti.

"Regolare il ritmo delle capacità è quindi una risposta incompleta alla sfida della parità nella ricerca sull'allineamento", ha scritto. "Qualsiasi impegno credibile di rallentamento necessita di un impegno corrispondente e quantificato sul versante della ricerca sulla sicurezza."

Chi fornirebbe quella supervisione, e se i governi abbiano le competenze per giudicare il rischio di frontiera resta la questione aperta che l'analisi lascia irrisolta.

Questo articolo è basato su un servizio pubblicato per la prima volta da Decrypt.