NotizieMacroOpenAI segnala Astra come primo modello a raggiungere la soglia Critica di sicurezza informatica

OpenAI segnala Astra come primo modello a raggiungere la soglia Critica di sicurezza informatica

Autore: Hokanews·

Punti chiave

  • •OpenAI ha classificato Astra come Critico nell'ambito del suo Preparedness Framework per la prima volta.
  • •Le valutazioni hanno rilevato che Astra potrebbe identificare vulnerabilità sconosciute e costruire catene di exploit quando fornito di strumenti e accessi.
  • •OpenAI ha dichiarato che Astra ha superato GPT-5.6 Sol nell'identificazione delle vulnerabilità e nello sviluppo di exploit, utilizzando meno token in output.
  • •L'azienda ha introdotto un isolamento più rigoroso, un accesso limitato a rete e strumenti, un monitoraggio extra e controlli più severi sui pesi del modello.
  • •Le funzionalità avanzate di cybersecurity andranno prima a un piccolo gruppo di alpha tester, prima di un accesso difensivo più ampio tramite Daybreak Blue.
OpenAI segnala Astra come primo modello a raggiungere la soglia Critica di sicurezza informatica

Il prossimo modello di intelligenza artificiale di OpenAI, Astra, ha raggiunto un livello di capacità di sicurezza informatica che l'azienda classifica come "Critico", innescando misure di sicurezza aggiuntive prima che il modello possa essere rilasciato, secondo Cointelegraph. La designazione segna la prima volta che OpenAI assegna questa classificazione a uno dei suoi modelli nell'ambito del Preparedness Framework, il sistema di valutazione del rischio introdotto dall'azienda nel 2023 per analizzare i modelli di frontiera rispetto a rischi catastrofici prima della distribuzione.

Secondo OpenAI, le sue valutazioni hanno rilevato che Astra — quando fornito degli strumenti e degli accessi appropriati — è in grado di identificare vulnerabilità di sicurezza precedentemente sconosciute e di sviluppare metodi per sfruttarle su sistemi ben protetti, senza guida umana. Questi risultati hanno spinto l'azienda a imporre controlli di sicurezza più stringenti sia durante lo sviluppo sia in vista della distribuzione.

Una nuova soglia per le capacità di cybersecurity dell'IA

Nell'ambito del Preparedness Framework di OpenAI, la soglia Critica si applica ai modelli in grado di identificare e sviluppare exploit zero-day funzionanti contro sistemi critici reali e rafforzati senza intervento umano, oppure di ideare ed eseguire in modo autonomo attacchi informatici end-to-end inediti contro obiettivi protetti. Il framework valuta i modelli su categorie di rischio come la cybersecurity, e punteggi più alti sono pensati per innescare condizioni di distribuzione progressivamente più restrittive.

OpenAI ha dichiarato che Astra ha dimostrato capacità superiori a quelle di GPT-5.6 Sol nell'identificazione delle vulnerabilità e nello sviluppo di exploit, pur utilizzando un numero inferiore di token in output. In una valutazione, Astra ha ottenuto un punteggio del 100% su ExploitBench. I test interni hanno inoltre rilevato che il modello ha scoperto e utilizzato due vulnerabilità zero-day come parte di una catena di exploit.

Controlli più stringenti prima del rilascio

L'azienda ha ritardato alcune fasi dello sviluppo e del rilascio di Astra, rafforzando al contempo le protezioni contro gli abusi informatici e le azioni non autorizzate del modello. Queste misure comprendono un isolamento più rigoroso, un accesso limitato a rete e strumenti, un monitoraggio aggiuntivo e controlli più severi sui pesi del modello.

OpenAI ha inoltre affermato che Astra viene addestrato a rifiutare in modo più affidabile le richieste dannose in materia di cybersecurity. Nelle valutazioni di cyber-jailbreak, il modello ha rifiutato il 91,5% delle richieste non consentite, rispetto al 59% di GPT-5.6 Sol. Le funzionalità avanzate di cybersecurity saranno inizialmente limitate a un piccolo gruppo di alpha tester, con un accesso difensivo più ampio previsto tramite Daybreak Blue — una struttura di accesso che ricalca l'approccio di altri rilasci di IA ad alte capacità, in cui un'implementazione ristretta è stata affiancata a casi d'uso difensivi verificati.

Implicazioni per il settore dell'IA

La classificazione di Astra sottolinea una sfida crescente per gli sviluppatori di IA: i progressi che possono migliorare la ricerca sulle vulnerabilità e la difesa informatica possono al contempo aumentare la potenziale scala e velocità delle attività malevole. Il risultato arriva inoltre nel bel mezzo di un più ampio dibattito industriale e politico su come governare i sistemi di IA con capacità offensive in ambito informatico, mentre regolatori e ricercatori di sicurezza valutano se i framework volontari siano sufficienti per i modelli che superano tali soglie.

In risposta, OpenAI si è orientata verso un modello di distribuzione più restrittivo all'aumentare delle capacità, combinando i rifiuti a livello di modello con monitoraggio, controlli degli accessi e misure di contenimento. L'approccio riflette il più ampio sforzo dell'azienda per garantire che i sistemi di sicurezza tengano il passo con agenti di IA sempre più autonomi. Il modo in cui altri sviluppatori di frontiera — e i ricercatori che li analizzano — reagiranno a soglie di capacità comparabili sarà determinante per definire le norme emergenti per una distribuzione sicura dell'IA.

OpenAI ha dichiarato di prevedere di rendere disponibile Astra a breve, con ulteriori dettagli sulle valutazioni di sicurezza, protezione e allineamento attesi nella system card del modello al momento del lancio — il documento in cui l'azienda ha in passato reso noti i risultati delle valutazioni dei suoi modelli di frontiera.