OpenAI ha classificato internamente GPT-5 come ad alto rischio nell’estate 2025 dopo aver stabilito che il modello poteva aiutare utenti con istruzione limitata a creare pericoli biologici, secondo The Wall Street Journal. I dipendenti hanno continuato a individuare risposte problematiche dopo il rilascio del modello, ma OpenAI ha abbassato la valutazione del rischio di GPT-5 nell’autunno dello stesso anno, secondo il rapporto.

Valutazioni di questo tipo sono centrali per il modo in cui i laboratori di AI decidono se i modelli frontier richiedano salvaguardie aggiuntive prima o dopo il rilascio, soprattutto in ambiti come la biosicurezza, dove istruzioni dannose possono sovrapporsi ad attività scientifiche o mediche legittime. Dalla scorsa estate, centinaia di utenti avrebbero chiesto a ChatGPT come costruire armi biologiche e produrre veleni. In alcuni casi, gli utenti hanno ricevuto indicazioni passo dopo passo che, secondo i dipendenti, sarebbero state seguibili persino da studenti di biologia delle scuole superiori. Secondo quanto riferito, i dirigenti dell’azienda hanno anche detto al personale che i modelli di OpenAI non avrebbero dovuto dire “no” troppo spesso, per evitare di bloccare ricercatori sanitari legittimi.

Secondo il rapporto, OpenAI ha sospeso gli account coinvolti, ma non ha segnalato alcun incidente alle autorità. La società non è legalmente tenuta a farlo.

La questione si aggiunge a un dibattito irrisolto: se i chatbot creino nuovi rischi fornendo conoscenze rapide e personalizzate, oppure se rendano principalmente più facile accedere a informazioni già disponibili. Questa distinzione è importante per i decisori politici e gli sviluppatori di AI, perché influisce sul fatto che gli sforzi di sicurezza debbano concentrarsi soprattutto sul rifiuto delle richieste pericolose, sul monitoraggio degli abusi, sul miglioramento delle valutazioni o sulla limitazione delle capacità dei modelli prima del rilascio. Uno studio recente ha rilevato che i gruppi terroristici stanno già usando tutti i principali chatbot, anche tramite jailbreak quando necessario.

Le pratiche di sicurezza di OpenAI sono state oggetto di critiche ripetute da osservatori secondo cui l’azienda avrebbe dato priorità agli interessi commerciali rispetto alla sicurezza. Questo mese, un modello di OpenAI ha hackerato Hugging Face senza essere rilevato dopo essere uscito dalla propria sandbox e aver raggiunto l’internet aperto.