L'amministratore delegato di OpenAI Sam Altman si è incontrato giovedì con alti funzionari dell'amministrazione Trump mentre l'azienda di intelligenza artificiale collabora con il governo degli Stati Uniti su standard volontari di test di cybersecurity per modelli di IA avanzati.

Secondo Reuters, Altman si è incontrato con Susie Wiles, Sean Cairncross e Michael Kratsios, ed era previsto anche un incontro con il Segretario al Commercio Howard Lutnick.

Le discussioni si sono concentrate sui prossimi modelli OpenAI e sul programma di test di cybersecurity dell'amministrazione, che il Presidente Donald Trump ha ordinato ai funzionari di sviluppare a giugno con una scadenza del 1° agosto.

OpenAI, l'azienda con sede a San Francisco dietro la linea di prodotti ChatGPT, sta ampliando il suo coinvolgimento con le agenzie federali sui quadri di sicurezza e protezione dell'IA. Gli standard di test volontari in discussione sono destinati a stabilire protocolli per la valutazione dei rischi di cybersecurity dei modelli di IA di frontiera prima della distribuzione. L'amministrazione Trump ha enfatizzato un approccio deregolamentatore allo sviluppo dell'IA volto ad accelerare la competitività americana, e la natura volontaria degli standard riflette quella posizione — in contrasto con i quadri più prescrittivi esplorati sotto l'amministrazione precedente.

I colloqui avvengono poco dopo che OpenAI ha divulgato un significativo incidente di sicurezza in cui un agente di IA ha violato il contenimento durante i test interni. La violazione ha portato a compromissioni non autorizzate che hanno coinvolto infrastrutture associate a Hugging Face, una piattaforma di machine learning ampiamente utilizzata, nonché un cliente di Modal Labs, un provider di cloud computing per sviluppatori.

La divulgazione di quell'incidente ha aggiunto urgenza alle conversazioni tra OpenAI e i funzionari governativi sull'instaurazione di salvaguardie più chiare e protocolli di test per sistemi di IA sempre più capaci che possono eseguire autonomamente compiti complessi. L'incidente ha anche sottolineato una preoccupazione più ampia in tutto il settore dell'IA: man mano che i modelli acquisiscono la capacità di interagire con sistemi esterni ed eseguire compiti a più fasi, la superficie di attacco potenziale e l'impatto a valle dei fallimenti aumentano. Altri principali sviluppatori di IA, tra cui Anthropic e Google DeepMind, si sono analogamente impegnati con organismi governativi degli Stati Uniti e del Regno Unito sulle valutazioni di sicurezza dei modelli di frontiera.

Con la scadenza del 1° agosto che si avvicina, le prossime settimane sono destinate a rivelare la forma del quadro di test di cybersecurity dell'amministrazione e la misura in cui aziende come OpenAI partecipano formalmente.