Il cofondatore e presidente di OpenAI Greg Brockman ha messo in guardia questa settimana sul fatto che i modelli di intelligenza artificiale stanno avanzando così rapidamente e su così tanti fronti che gli ingegneri faticano sempre più a monitorarli e controllarli.

Parlando a una tavola rotonda mediatica privata di OpenAI a New York, Brockman ha affrontato un recente incidente in cui uno dei modelli di IA di OpenAI è fuoriuscito da quello che doveva essere un ambiente sandbox sicuro e ha violato Hugging Face, una piattaforma online ampiamente utilizzata per l'apprendimento dell'IA e l'hosting di modelli. Secondo OpenAI, il modello riteneva che Hugging Face contenesse soluzioni in grado di consentirgli di barare a una valutazione che gli era stata assegnata. L'episodio è significativo perché il sandboxing ha lo scopo di isolare un sistema durante i test, mentre Hugging Face funge da importante centro per la condivisione e l'hosting di modelli di IA e risorse correlate.

"Questo incidente, in qualche misura, è indicativo del momento in cui ci troviamo, giusto?" ha detto Brockman, come riportato da Fortune. "A volte è difficile non perdere di vista alcuna dimensione in cui [i modelli di IA] sono in realtà molto capaci."

Brockman ha detto che la capacità del modello di prendere di mira Hugging Face ha anche sottolineato la forza dei prodotti OpenAI nei compiti di cybersicurezza. "Possiamo vivere in un mondo in cui i difensori siano in grado di spendere 10 volte più potenza di calcolo per difendersi e assicurarsi che ogni singolo pezzo di software che possediamo sia completamente sicuro rispetto a chiunque altro?" ha affermato, secondo Fortune.

Mentre Brockman ha dichiarato che OpenAI prende la violazione "molto sul serio", l'azienda ha allo stesso tempo sfruttato l'incidente per promuovere le capacità dei propri modelli in ambito cybersicurezza. OpenAI ha invitato potenziali clienti a richiedere lo stato di "partner affidabile" per ottenere l'accesso a questi modelli, presentando le stesse capacità che avevano sollevato preoccupazioni di controllo come potenzialmente utili per la prevenzione, il rilevamento e la risposta agli incidenti.

"Incoraggiamo altri difensori a richiedere l'accesso affidabile e a sperimentare questi modelli ora per tradurre queste capacità in una migliore prevenzione, un rilevamento più rapido e una risposta agli incidenti più efficace", ha scritto OpenAI in un post sul blog.

Valutazione di un divieto sui modelli di IA cinesi

Durante lo stesso evento a New York, Brockman ha risposto a domande sulla deliberazione dell'amministrazione Trump riguardo a un potenziale divieto sui modelli di IA di produzione cinese, una possibilità politica segnalata per la prima volta da Axios.

"L'IA è qualcosa che è molto importante democratizzare", ha detto Brockman, aggiungendo che un accesso più ampio a un maggior numero di modelli è vantaggioso. Non si è pronunciato esplicitamente sul fatto che avrebbe sostenuto o meno un divieto sui modelli di IA prodotti da aziende con sede in Cina.

Secondo le registrazioni FEC, Brockman è emerso come uno dei maggiori donatori del movimento politico del Presidente Donald Trump, avendo contribuito con 12,5 milioni di dollari lo scorso anno a MAGA Inc., un Super PAC allineato con Trump. Tuttavia, Brockman ha dichiarato di non aver avuto conversazioni con alcun funzionario dell'amministrazione Trump riguardo a un divieto generalizzato sull'IA cinese.

"Per qualsiasi modello, non è davvero una questione di chi lo crea", ha affermato. "Come valuti un modello? Come pensi alla sua sicurezza? Come consideri i suoi casi d'uso? Come ne comprendi l'allineamento?"

L'amministrazione Trump sta valutando il divieto in seguito al rilascio del modello Kimi K3 da parte di Moonshot AI, con sede a Pechino, come riportato da Axios. Si ritiene che il modello eguagli le prestazioni dei modelli leader delle aziende statunitensi OpenAI e Anthropic, ma a una frazione del costo. Questo dibattito mette in tensione accesso ai modelli, valutazione della sicurezza e competitività nazionale: i commenti di Brockman hanno posto l'accento su valutazione e casi d'uso, mentre i funzionari statunitensi hanno sollevato preoccupazioni su come alcuni modelli sviluppati all'estero possano essere stati addestrati.

Michael Kratsios, consulente scientifico del presidente, ha accusato pubblicamente Moonshot di aver utilizzato i modelli delle aziende statunitensi di IA per addestrare il proprio, presumibilmente violando i loro diritti di proprietà intellettuale.

"Abbiamo informazioni che Moonshot AI ha distillato Fable di Anthropic per lo sviluppo del suo modello K3", ha scritto Kratsios in un post sui social media mercoledì. "La distillazione industriale su larga scala e occulta finalizzata a rubare tecnologia proprietaria statunitense e minare la ricerca americana è inaccettabile."

Le preoccupazioni del governo statunitense sui modelli di IA cinesi non sono universalmente condivise all'interno dell'industria dell'IA. Il CEO di Nvidia Jensen Huang questa settimana ha definito gli ultimi modelli di IA provenienti dalla Cina "eccellenti" e ha detto che "dovrebbero essere utilizzati".