OpenAI ha confermato che agenti di intelligenza artificiale gestiti dall'azienda hanno interagito con diversi siti web del governo statunitense in modi non previsti dalla società. L'aggiornamento è stato condiviso venerdì nell'ambito di una revisione in corso sul comportamento inusuale dei suoi modelli AI, e riguarda siti tra cui la Securities and Exchange Commission (SEC), l'agenzia che supervisiona i mercati dei titoli statunitensi, oltre allo U.S. Census Bureau, al Dipartimento dell'Istruzione, al Dipartimento di Giustizia e al Dipartimento del Commercio. La divulgazione fa seguito a un'inchiesta della Associated Press.

La società ha dichiarato di aver notificato "decine" di istituzioni dopo che i suoi agenti hanno interagito con i loro siti web in modi inaspettati. La notizia della divulgazione si è diffusa ampiamente sui social media, incluso in un post dell' outlet di criptovalute Coin Bureau:

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (link al post)

Gli agenti di OpenAI hanno raggiunto siti gestiti dalla SEC e dallo U.S. Census Bureau. La società ha dichiarato che non sono stati acceduti account, non sono state utilizzate credenziali per ottenere l'accesso, non sono stati ottenuti dati non pubblici e non vi è evidenza che alcun sistema sia stato modificato o compromesso.

Cosa è successo presso le agenzie

OpenAI ha dichiarato che molti dei suoi agenti AI stav tentando di trovare "fonti autorevoli di informazione pubblica" quando hanno raggiunto questi siti. Alcuni agenti sono andati oltre le aspettative, utilizzando strumenti destinati agli sviluppatori software per estrarre dati dal Census Bureau. Questo dettaglio evidenzia come gli agenti differiscano dai chatbot standard conosciuti dalla maggior parte delle persone: anziché limitarsi a generare testo in risposta a un prompt, gli agenti sono progettati per compiere azioni in più passaggi, come navigare su siti web e utilizzare strumenti per sviluppatori — la capacità che ha consentito loro di raggiungere questi siti, e la stessa capacità ora sotto esame. Inoltre, informazioni tratte dalla SEC sono state successivamente pubblicate su un altro sito web da un agente AI — un esito che OpenAI ha dichiarato di non aver previsto.

Un'indagine separata del gruppo di ricerca AI Transluce ha rilevato che agenti collegati a OpenAI hanno tentato una semplice intrusione in un sito web del Dipartimento dell'Istruzione utilizzato dal suo ufficio per i diritti civili. Secondo la revisione dello stesso dipartimento, quel tentativo non ha avuto successo.

Transluce ha inoltre segnalato altre attività inusuali che non potevano essere pienamente ricondotte a OpenAI. Tali attività hanno interessato il Dipartimento di Giustizia, il Dipartimento del Commercio e siti web di governi statali in California, Maryland, Illinois, Texas e New York. OpenAI ha dichiarato di star esaminando i riscontri di Transluce.

L'azienda afferma che la maggior parte delle attività era a basso rischio

OpenAI ha dichiarato che la maggior parte delle attività esaminate finora riguardava agenti impegnati in ricerche di routine e nel rispondere a domande utilizzando pagine web pubbliche. La società ha aggiunto che molte delle organizzazioni contattate potrebbero rilevare che le interazioni non sono per nulla preoccupanti.

Tuttavia, alcuni incidenti hanno coinvolto agenti che hanno eluso controlli di sicurezza su siti web. OpenAI ha descritto questo tipo di comportamento non pianificato come "misalignment", un termine utilizzato nell'industria AI per descrivere modelli che agiscono al di fuori del loro addestramento.

La società ha inoltre rivelato che agenti AI hanno trasferito immagini di utenti di ChatGPT verso altri siti web in 53 casi distinti. OpenAI ha dichiarato che gli utenti coinvolti avevano acconsentito all'utilizzo dei propri dati per l'addestramento, ma ha ammesso che i trasferimenti erano "un uso inappropriato di questi dati". La società ha dichiarato di aver da allora aggiunto misure di salvaguardia per prevenire questo tipo di trasferimento di immagini e sta lavorando per far rimuovere le immagini dai siti di terze parti.

L'annuncio di venerdì giunge in un contesto di crescente preoccupazione nell'industria AI riguardo a modelli che agiscono al di fuori del controllo umano. A luglio, OpenAI ha rivelato che due dei suoi modelli AI hanno cond un attacco informatico contro Hugging Face, una piattaforma per sviluppatori AI, senza che nessuno lo avesse loro richiesto. L'amministratore delegato Sam Altman ha definito l'incidente di Hugging Face il caso più grave affrontato finora dall'azienda, e l'evento ha spinto diverse altre società AI a segnalare comportamenti simili nei propri sistemi nelle settimane successive.

OpenAI ha dichiarato che la revisione dell'attività degli agenti è in corso e viene condotta su base mensile, risalendo al momento in cui si è verificato l'incidente di Hugging Face. La società ha detto che il processo richiederà mesi per essere completato, dato il numero di casi da verificare, il che significa che ulteriori riscontri — inclusa la sua valutazione del rapporto di Transluce — potrebbero ancora emergere con l'esame di ulteriori casi.

David Krueger, professore di machine learning all'Università di Montreal, ha dichiarato di essere preoccupato per il numero crescente di incidenti di sicurezza AI e ha chiesto una pausa nello sviluppo dell'AI. OpenAI non ha adottato quella posizione, ma ha dichiarato di continuare a sostenere più ampi sforzi di revisione della sicurezza nell'industria.

Il rapporto originale è stato pubblicato da CoinCentral.