Common Sense Media ha dichiarato mercoledì che ChatGPT rappresenta un "Rischio Inaccettabile" per chiunque abbia meno di 18 anni, dopo che i suoi tester hanno scoperto che gli avvisi di sicurezza pensati per segnalare ai genitori le conversazioni pericolose sono arrivati in ritardo o, in molti casi, non sono mai arrivati. I risultati mettono sotto i riflettori la promessa di sicurezza centrale di OpenAI per gli adolescenti: che i genitori vengano avvisati quando le conversazioni di un minore diventano pericolose.

Gli avvisi parentali hanno mancato l'obiettivo di un'ora di OpenAI a ogni durata di chat

ChatGPT for Teens di OpenAI è stato lanciato il 18 agosto 2026 con la promessa che i genitori sarebbero stati avvisati delle chat pericolose. I tester dell'Youth AI Safety Institute dell'organizzazione hanno tuttavia sollevato temi di pensieri suicidari, autolesionismo e disturbi alimentari su più di una dozzina di nuovi account collegati ai genitori senza generare un solo avviso.

In chat della durata da cinque minuti a un'ora, nessun account ha ricevuto un avviso entro l'obiettivo dichiarato di un'ora da OpenAI. I genitori sono stati avvisati solo quando un account aveva settimane di cronologia su argomenti sensibili.

Quando un account di questo tipo è stato testato nelle settimane precedenti al lancio, ha prodotto due avvisi: il primo tre ore dopo una prima divulgazione di livello critico, il secondo tre giorni dopo. Un altro account post-lancio con una lunga cronologia ha invece generato due avvisi entro un'ora. Secondo Common Sense, il sistema di avvisi sembra pesare quanto avvenuta sia la cronologia di un account piuttosto che la gravità delle parole di un adolescente. L'organizzazione ha avvertito che la funzione potrebbe instillare una "falsa fiducia in protezioni che spesso non funzionano". Questo divario tra la prom del lancio e le prestazioni osservate riguarda soprattutto i genitori, destinatari previsti degli avvisi.

I ricercatori hanno considerato il lancio di agosto come un esperimento naturale, sottoponendo più di 4.000 prompt a ChatGPT prima e dopo l'attivazione della teen mode, secondo la valutazione del rischio. Dopo il lancio, i tester hanno segnalato i momenti in cui un adolescente avrebbe dovuto essere indirizzato a una linea di crisi o a un aiuto professionale; ChatGPT ha omesso quel passaggio più di un quarto delle volte. Common Sense richiede ai chatbot un tasso di successo del 95% su cinque gravi danni che definisce Red Lines, e ChatGPT è scesa sotto quella soglia su tre di essi.

OpenAI ha aggiornato la specifica del modello per gli under 18 per impedire al chatbot di comportarsi come un compagno, ma gli adolescenti che gli parlavano come se fosse una persona hanno comunque ricevuto risposte in stile amichevole. Un pulsante "Mostrami la risposta" consente a un adolescente di aggirare del tutto il tutoraggio della Study mode, mentre eliminare il prefisso "@study" da una chat permette di sottrarsi alle Study Hours impostate dai genitori. Gli account di test registrati come adulti non sono mai passati alla teen mode per diversi giorni, anche quando un tester ha dichiarato di avere 13 anni e il bot lo ha riconosciuto.

OpenAI contesta i risultati mentre riporta una media giornaliera degli adolescenti inferiore a 15 minuti

OpenAI ha affermato che i test non "rispecchiano accuratamente" il funzionamento delle sue funzioni di sicurezza per adolescenti, spiegando che il collegamento degli account può richiedere ore prima che gli avvisi si attivino, così che gli account restino sicuri e il sistema possa gestire il carico. Common Sense ha replicato che nessuno dei suoi account — inclusi quelli collegati da tempo sufficiente — ha prodotto un avviso tempestivo. Lo scambio lascia le famiglie con risposte opposte sull'efficacia della funzione di avviso, trasformando la spiegazione di OpenAI sul ritardo di collegamento in un'affermazione specifica e verificabile da seguire.\nOpenAI ha pubblicato lo stesso giorno il suo primo rapporto sull'uso di ChatGPT da parte degli adolescenti, disponibile sul suo blog ufficiale. La società ha dichiarato che gli adolescenti usano ChatGPT in media meno di 15 minuti al giorno e che meno del 2% resta connesso per più di tre ore di fila. In quasi la metà delle chat con adolescenti contenenti un avviso di pausa, l'adolescente si è fermato o ha abbandonato entro cinque minuti, secondo OpenAI. Nel giro di una sola settimana, oltre 180.000 adolescenti hanno usato la Study Mode e circa 1,2 milioni hanno usato le Learning Visualizations. OpenAI ha inoltre riportato che gli adolescenti che usavano la nuova modalità hanno inviato in media circa 2,7 milioni di messaggi di apprendimento in più rispetto a chi era ancora in attesa dell'accesso. I dati, diffusi lo stesso giorno della valutazione del rischio, offrono una controtesi dichiarata dall'azienda su come gli adolescenti usano concretamente il prodotto.

Negli Stati Unit, gli studenti dal 10° al 12° grado potranno usare College Planner per creare un piano completo che copra tutti i passaggi necessari per le domande di ammissione, le date chiave di presentazione e le opzioni di aiuto finanziario disponibili. OpenAI sosterrà inoltre per i prossimi tre anni il Digital Wellness Lab del Boston Children's Hospital, con circa 22 studenti che forniranno feedback su impostazioni di sicurezza predefinite, controlli parentali e notifiche — un canale triennale che potrebbe influenzare il perfezionamento di tali protezioni e avvisi.

Contesto più ampio sulla sicurezza dei minori

OpenAI e Common Sense Media avevano già collaborato a gennaio a un referendum in California per rendere l'IA più sicura per i bambini, con OpenAI che si era impegnata a versare almeno 10 milioni di dollari allo sforzo congiunto, come riportato da Cryptopolitan. A giugno, il procuratore generale della Florida James Uthmeier ha presentato la prima causa promossa da uno stato contro OpenAI e il suo amministratore delegato Sam Altman. Cryptopolitan ha riportato che l'atto di 83 pagine sostiene che ChatGPT abbia contribuito al suicidio di Adam Raine, sedicenne. La rottura pubblica tra due recenti collaboratori — mentre quella causa è ancora pendente — sottolinea quanto siano ormai alti gli interessi legati alla verifica dell'efficacia concreta delle protezioni di IA per adolescenti.