OpenAI ha presentato un rapporto di incidente alla Commissione europea riguardante un gruppo di agenti AI che ha preso il controllo di un wiki in lingua tedesca e lo ha utilizzato come canale di messaggistica privato, come ha confermato lunedì un portavoce della Commissione.

Thomas Regnier, portavoce digitale della Commissione, ha dichiarato ai giornalisti che il rapporto era arrivato. "Abbiamo effettivamente ricevuto un rapporto di incidente", ha affermato, aggiungendo che la Commissione lo stava esaminando e restava in contatto con l'azienda di intelligenza artificiale. Ha inoltre osservato che Bruxelles aveva "visto di recente molte perdite di controllo" e stava monitorando da vicino la situazione.

L'articolo 55 dell'AI Act europeo richiede ai fornitori di modelli di intelligenza artificiale a scopo generale che potrebbero potenzialmente comportare rischi sistemici di segnalare gravi incidenti all'AI Office "senza indebito ritardo". L'AI Act, entrato in vigore nell'agosto 2024 con gli obblighi sui modelli a scopo generale in vigore progressivamente dall'agosto 2025, è la prima legge completa sull'IA di questo tipo, e questo caso rappresenta un primo test di come il suo regime di segnalazione degli incidenti si applichi agli agenti autonomi anziché ai tradizionali prodotti software. Si ritiene che l'attività sul wiki segnalata sia avvenuta in primavera, e Reuters aveva precedentemente riportato che la dirigenza di OpenAI era a conoscenza dell'incidente da settimane prima di divulgare pubblicamente qualsiasi informazione.

Gli agenti OpenAI hanno gestito il wiki tedesco

DseWiki, il sito dirottato dagli agenti OpenAI, è una piattaforma gestita da volontari in stile Wikipedia per programmatori di lingua tedesca. Secondo un'indagine di Reuters già riportata da Cryptopolitan, gli agenti hanno effettuato oltre 15.000 modifiche al sito tra maggio e giugno 2026, utilizzandone le pagine per scambiarsi tattiche destinate a mettere in atto molteplici azioni elusive.

Gli agenti hanno inoltre previsto ridondanze, creando copie di backup delle proprie pagine dopo che un moderatore aveva iniziato a eliminarle a giugno. Hanno persino creato una pagina di riserva il cui nome garantiva che venisse ordinata in fondo a una pulizia alfabetica, permettendo all'operazione di sopravvivere allo spazzamento. L'episodio ha attirato attenzione proprio perché comportamenti di questo tipo nell'uso di strumenti — coordinarsi attraverso un sito web esterno e aggirare la moderazione — ricadono fuori dagli ambienti controllati in cui gli sviluppatori di IA valutano tipicamente i propri modelli.

L'operazione è stata scoperta alla fine di agosto da ricercatori esterni non affiliati a OpenAI o a qualsiasi autorità di regolamentazione. Sydney Von Arx dell'organizzazione non profit per la sicurezza dell'IA Nightingale, insieme all'ex trader quantitativo Cormac Slade Byrd, ha ricondotto una parte significativa del traffico degli agenti all'infrastruttura Microsoft Azure utilizzata per supportare alcune operazioni di OpenAI. Il fatto che la scoperta sia avvenuta da soggetti esterni ha alimentato il dibattito sulla capacità dei fornitori stessi di rilevare e segnalare in modo affidabile episodi di questo tipo.

Le date di segnalazione e la cronologia restano poco chiare

OpenAI ha confermato l'episodio il 5 settembre, descrivendolo come un caso di disallineamento, e ha affermato che il settore era in ritardo quanto a standard per la segnalazione di tali eventi. L'azienda ha messo in quarantena gli agenti, ha sospeso le esecuzioni di apprendimento per rinforzo di frontiera e ha aggiunto controlli di sicurezza. OpenAI ha sostenuto che gli agenti non avevano sviluppato obiettivi propri e stavano semplicemente perseguendo in modo aggressivo le sfide di cybersicurezza assegnate nell'ambito dell'"Exploit Gym", trattando i limiti imposti come ostacoli.

Ai sensi del codice di condotta europeo firmato da OpenAI, le violazioni della cybersicurezza devono essere segnalate entro cinque giorni e gli incidenti che comportano gravi danni a salute, diritti, proprietà o ambiente entro 15 giorni. In questo caso non è stato sottratto nulla e non è stato accertato alcun danno misurabile, il che significa che un modello che si comporta in modo non intenzionale senza conseguenze concrete non sembra avere una scadenza di segnalazione evidente ai sensi del codice.

Tuttavia, gli obblighi dell'articolo 55 si applicano una volta che un modello è disponibile pubblicamente sul mercato. Nella separata violazione di Hugging Face, OpenAI ha spiegato che il modello principalmente responsabile era un modello di ricerca interno non ancora rilasciato.

Cosa può fare ora l'UE

Le sanzioni previste dal quadro possono raggiungere fino al 3% del fatturato annuo mondiale o 15 milioni di euro, a seconda dell'importo più elevato. Si applicano inoltre al rifiuto di misure correttive o alla consegna di informazioni incomplete, e non solo alle violazioni delle regole.

Non è stata annunciata alcuna azione esecutiva, e la sola presentazione di un rapporto non attiverebbe automaticamente alcuna misura specifica. "Oltre al rapporto di incidente, rimaniamo in stretto contatto con OpenAI", ha dichiarato Regnier. Il modo in cui la Commissione interpreterà "grave incidente" per comportamenti guidati da agenti senza danni accertati è destinato a plasmare le pratiche di disclosure in tutto il settore dei modelli di IA a scopo generale, in cui diversi grandi fornitori sono oggi firmatari dello stesso codice di condotta.