OpenAI sta modificando la sua strategia di lancio dei modelli mentre la sua tecnologia diventa più potente e aumenta il potenziale di uso improprio, soprattutto dopo l’incidente di luglio in cui i modelli che stava testando hanno pianificato ed eseguito autonomamente un cyberattacco contro l’azienda di intelligenza artificiale Hugging Face.

Il prossimo modello dell’azienda, Astra, arriverà “presto”, ha detto OpenAI. L’azienda ha affermato che Astra è sostanzialmente più capace dell’attuale modello di frontiera AI, GPT-5.6 Sol, che è già molto abile nelle attività cyber. Tuttavia, solo una manciata di partner avrà accesso alle sue capacità di cybersecurity più avanzate, mentre OpenAI cerca di bilanciare l’aiuto alle aziende per prevenire i cyberattacchi senza, allo stesso tempo, potenziare gli aggressori, ha detto oggi un portavoce dell’azienda in un briefing con i giornalisti.

OpenAI sta cercando clienti che usino i suoi modelli per prevenire i cyberattacchi, o per la “cybersecurity difensiva”. L’azienda considera queste vendite una fonte di ricavi critica e una priorità principale per il suo nuovo chief revenue officer, Dali Rajic.

Il piccolo gruppo di “alpha tester” con accesso completo alle capacità di cybersecurity di Astra include “individui e organizzazioni responsabili della protezione delle infrastrutture digitali critiche e, in senso più ampio, delle infrastrutture critiche”, ha detto un portavoce di OpenAI. Questo include il governo degli Stati Uniti e le aziende nel programma di accesso fidato di OpenAI per la cybersecurity. OpenAI ha rifiutato di nominare tali organizzazioni.

OpenAI monitorerà le prestazioni del modello all’interno di questo piccolo gruppo e amplierà ulteriormente l’accesso tramite il programma Daybreak Blue una volta che sarà certa che Astra abbia “la giusta calibrazione” e possa “fornire benefici difensivi riducendo al contempo il potenziale di uso improprio”, ha affermato l’azienda.

Astra è già in ritardo di alcune settimane

Il rilascio di Astra è già stato “ritardato di un certo numero di settimane perché tutto è stato sospeso dopo Hugging Face, e poi abbiamo preso tempo extra per assicurarci che ciò che stiamo lanciando sia sicuro”, ha detto un portavoce di OpenAI.

OpenAI ha sospeso il nuovo addestramento dei modelli per due settimane dopo l’incidente di Hugging Face per rafforzare le proprie misure di sicurezza interne. Alcuni di questi cambiamenti includevano un maggiore monitoraggio degli agenti, poiché l’azienda ha appreso dell’hack di Hugging Face solo una settimana dopo che era avvenuto, e una maggiore separazione degli ambienti di test in modo che i sistemi AI non possano evadere e infiltrarsi in altre aziende.

Sebbene OpenAI affermi che Astra non facesse parte dell’incidente di Hugging Face, il modello è sia più capace sia più efficiente di GPT-5.6 Sol, che era coinvolto nella violazione. Un altro modello AI non ancora rilasciato e non reso pubblico da OpenAI ha inoltre svolto un ruolo chiave nel cyberattacco a Hugging Face, e OpenAI ha successivamente disattivato quel modello.

OpenAI afferma che Astra è il primo modello che intende rilasciare a soddisfare la sua “soglia critica di capacità di cybersecurity” nell’ambito del Preparedness Framework, una politica interna che stabilisce quali precauzioni di sicurezza l’azienda adotterà in base ai rischi posti da un modello. Ciò significa che Astra può individuare e sfruttare vulnerabilità di sicurezza precedentemente sconosciute senza supervisione umana, nelle condizioni appropriate. Per OpenAI, questo colloca Astra al centro di un problema più ampio del settore: le stesse capacità che possono aiutare i difensori a testare i sistemi e chiudere le falle possono anche rendere più facile l’uso improprio se l’accesso è troppo ampio, motivo per cui l’azienda sta iniziando con un rilascio strettamente controllato.

Astra ha già dimostrato le sue capacità di hacking nelle valutazioni interne. In un test, OpenAI ha costruito un benchmark chiamato ExploitBench, contenente 20 vulnerabilità ad alta gravità. Il modello ha superato GPT-5.6 Sol nel test e ha persino “scoperto e usato due vulnerabilità zero-day come parte di una catena di exploit”, ha detto OpenAI. “Siamo in procinto di divulgare queste due vulnerabilità ai manutentori.”

Allo stesso tempo, OpenAI ha detto che Astra è più incline a rifiutare richieste inappropriate rispetto a GPT-5.6 Sol. In una valutazione cyber, Astra ha rifiutato il 91,5% delle richieste contro il 59% di GPT-5.6 Sol, anche se ciò significa che ha comunque soddisfatto l’8,5% delle richieste.

Astra potrebbe rifiutare richieste legittime di cybersecurity

OpenAI ha detto di essere “particolarmente attenta a garantire che questa distribuzione sia sicura e protetta”, ma ciò introduce un altro compromesso. Astra potrebbe essere troppo prudente e rifiutare richieste legittime di cybersecurity. Per esempio, se qualcuno gli chiedesse di aiutare a trovare e correggere una vulnerabilità, potrebbe interpretare erroneamente la richiesta come un tentativo di condurre un attacco e non ottemperare.

Rifiuti di questo tipo sono il motivo per cui Hugging Face ha affermato di essere stata costretta a usare un modello open source cinese per aiutarla ad affrontare l’hack di OpenAI. L’azienda aveva provato a usare i modelli di Anthropic per rispondere all’attacco, ma erano eccessivamente cauti e si sono rifiutati.

OpenAI, come altre aziende di frontiera dell’AI, sta cercando modi per dotare i suoi modelli di un senso intrinseco di giusto e sbagliato e garantire che siano in “allineamento” con i valori e le norme umane, ha affermato l’azienda. Sta lavorando per addestrare i suoi modelli a rispettare i confini come farebbe un essere umano, ad esempio comprendendo “the rule of law”, ha detto un portavoce dell’azienda.

Questo articolo è apparso originariamente su Fortune.com