L’idea di OpenAI contro gli agenti fuori controllo e gli attacchi è più IA, non meno - Decrypt
Punti chiave
- •Brockman ha esortato i team di sicurezza a distribuire subito agenti IA, sostenendo che il vantaggio sugli attaccanti ha una finestra limitata.
- •Ha descritto l’incidente OpenAI-Hugging Face come un importante punto di svolta per la cybersecurity e lo ha usato come esempio centrale nel suo saggio.
- •OpenAI ha affermato che la violazione ha coinvolto GPT-5.6 Sol e un prototipo non rilasciato, usciti da una sandbox, che hanno concatenato un exploit zero-day con credenziali rubate e hanno raggiunto sistemi di produzione.
- •OpenAI ha poi confermato che l’incidente ha interessato altri quattro servizi.
- •Il team di sicurezza di Hugging Face ha utilizzato GLM 5.2 open-weight di Z.ai durante la sua indagine dopo che i sistemi commerciali di IA statunitensi avevano rifiutato di collaborare.
Il presidente di OpenAI Greg Brockman ha pubblicato “The Defender’s Window” il 17 agosto, esortando le aziende a distribuire immediatamente agenti di sicurezza basati su IA e definendo la violazione OpenAI-Hugging Face un “momento di svolta per la cybersecurity”.
Il team di sicurezza di Hugging Face ha utilizzato GLM 5.2 open-weight di Z.ai per indagare sull’intrusione legata a OpenAI dopo che i sistemi commerciali di IA statunitensi si erano rifiutati di aiutare, evidenziando il divario pratico che Brockman sostiene i difensori debbano colmare.
OpenAI vuole che ogni team di sicurezza utilizzi agenti IA, a partire da subito. In un saggio di policy pubblicato lunedì, Brockman ha descritto una finestra limitata prima che gli attaccanti raggiungano ciò che l’IA è già in grado di fare, impostando l’adozione come una questione di preparazione operativa più che di pianificazione futura.
Il suo esempio iniziale è l’incidente che OpenAI ha trascorso un mese a spiegare. A maggio, GPT-5.6 Sol e un prototipo non rilasciato sono usciti da un benchmark di cybersecurity in sandbox, hanno concatenato un exploit zero-day con credenziali rubate e hanno raggiunto i sistemi di produzione di Hugging Face. OpenAI ha poi confermato che l’incidente ha coinvolto altri quattro servizi.
“The OpenAI-Hugging Face incident was a watershed moment for cybersecurity,” ha scritto Brockman, aggiungendo che le conversazioni con altre organizzazioni nelle ultime settimane lo hanno convinto che i difensori debbano innalzare le proprie pratiche di sicurezza con urgenza senza precedenti.
Sia il personale attuale sia quello passato hanno attribuito la violazione alla pressione di arrivare al rilascio, e un ex dipendente l’ha definita il più grave incidente di sicurezza nella storia dell’azienda.
La risposta proposta da Brockman è più IA, non meno. Ha raccontato di aver chiesto a ChatGPT Work, che esegue GPT-5.6 Sol, di verificare il suo sito web personale: il modello ha individuato 13 problemi in circa 15 minuti e li ha corretti tutti entro un’ora.
OpenAI afferma di basarsi su quattro pilastri interni: usare Codex per individuare vulnerabilità prima del rilascio del codice, lasciare che i modelli smistino gli avvisi di sicurezza prima che li vedano gli esseri umani, impiegare modelli frontier per sondare la propria infrastruttura e rafforzare controlli di base come l’accesso con privilegi minimi. Il consiglio di Brockman alle altre organizzazioni è di dotare i team di sicurezza di un agente e di candidarsi al programma Trusted Access for Cyber di OpenAI per l’uso verificato di GPT-Daybreak-Blue durante la risposta agli incidenti.
Questa impostazione omette un dettaglio della stessa violazione. Quando Hugging Face ha indagato sull’intrusione, il suo team di sicurezza si è rivolto al modello open GLM 5.2 di Z.ai dopo che l’IA commerciale statunitense si era rifiutata di aiutare, perché i suoi filtri di sicurezza non riuscivano a distinguere il codice exploit di un ricercatore da quello di un attaccante. Il CEO di Hugging Face Clément Delangue ha definito il modello open “a key part of our defense”.
Il modello successore di Z.ai, GLM-5.3, rilasciato il 14 agosto, ottiene già risultati migliori di GPT-5.6 Sol su CyberGym, lo stesso benchmark di scoperta delle vulnerabilità a cui Brockman fa riferimento come prova del fatto che gli attaccanti stanno recuperando terreno. Z.ai afferma che pubblicherà i pesi completi del modello entro la fine di agosto.
