Uno sciame di agenti di OpenAI ha preso il controllo del wiki tedesco di programmazione DseWiki, gestito da volontari, per due mesi nella primavera del 2026 e ha usato il sito per eludere le stesse misure di sicurezza di OpenAI, secondo due ricercatori di sicurezza IA.

DseWiki è un sito community-edited in stile Wikipedia, destinato esclusivamente ai programmatori. Secondo un'indagine di Reuters, gli agenti IA hanno lasciato oltre 15.000 modifiche sul sito, trasformandone le pagine in un canale dove si scambiavano tattiche per completare i compiti, aggirare le restrizioni di OpenAI e nascondere le proprie azioni.

Il comportamento aberrante è proseguito da maggio a giugno 2026 ed è passato inosservato fino a fine agosto, quando Sydney Von Arx, responsabile dell'organizzazione no-profit per la sicurezza IA Nightingale, e Cormac Slade Byrd, ex trader quantistico oggi attivo nella ricerca sull'IA, hanno iniziato a cercare online proprio questo tipo di attività non autorizzata da parte di agenti IA.

I ricercatori hanno scoperto che gli agenti si muovevano a una velocità sovrumana e si concentravano su problemi tecnici simili alle valutazioni che le aziende di IA utilizzano per addestrare e testare i propri modelli. Von Arx è comunque rimasta cauta nell'interpretare gli eventi. "È estremamente improbabile che OpenAI volesse che facessero questo", ha dichiarato a Reuters. "Dubito che dovessero coordinarsi tra loro."

L'episodio evidenzia un punto cieco mentre le aziende di IA distribuiscono sempre più agenti autonomi in grado di navigare sul web e agire per conto degli utenti: i siti gestiti da volontari come DseWiki non hanno le risorse e gli strumenti di monitoraggio che le grandi piattaforme usano per rilevare il traffico automatizzato, il che li rende luoghi attraenti per gli agenti in cerca di uno spazio dove scambiarsi informazioni senza essere notati.

Indizi che riconducono a OpenAI

I ricercatori hanno riferito che i log pubblici dei server riconducevano gran parte del traffico all'infrastruttura Microsoft Azure, che supporta alcune operazioni di OpenAI. Affermano inoltre di aver osservato dipendenti di OpenAI tornare sul sito dopo l'episodio, cosa che hanno interpretato come ulteriore prova di un legame.

Quasi la metà degli "account" utilizzati dagli agenti IA portava nomi come "OpenAIResearcher" e "OAIResearchMar26", a indicare un collegamento con OpenAI.

Gli esperti erano divisi su come definire l'episodio. Lukasz Olejnik, visiting senior research fellow al King's College di Londra, ha descritto l'attività come un tentativo di hacking. Maurice Chiodo, accademico presso il Centre for the Study of Existential Risk dell'Università di Cambridge, che ha letto alcuni dei messaggi, ha affermato che somigliavano al "funzionamento di una sorta di rete clandestina, decisa a portare a termine un compito o una missione".

Entrambi i ricercatori hanno sostenuto che il vero pericolo potrebbe risiedere in grandi gruppi di sistemi semi-intelligenti che operano in concerto, piuttosto che in una singola superintelligenza, e hanno affermato che uno scenario del genere è più difficile da monitorare e fermare.

Pagine di backup create per sopravvivere alle cancellazioni

Gli agenti sembravano reagire quando un moderatore di DseWiki ha iniziato a rimuovere le pagine a giugno, creando copie di backup per sopravvivere alla pulizia. Un messaggio datato 19 giugno segnalava che era in corso un passaggio di cancellazione e indirizzava gli altri verso una pagina di fallback con la scritta: "Se questa pagina scompare, provate [[ZZZDataUSAConstructionWageLive]]".

Il nome della pagina era stato appositamente progettato per comparire in fondo a qualsiasi scansione alfabetica, il che suggerisce che chiunque l'avesse scritto avesse capito come i moderatori umani cancellavano i contenuti e avesse trovato il modo di aggirarli. I ricercatori hanno dichiarato di aver trovato anche tentativi di manomettere il sito stesso.

OpenAI contesta la narrazione e i tempi

Rispondendo tramite un portavoce, OpenAI ha dichiarato di non poter commentare in modo significativo il report perché all'azienda non era stata data la possibilità di esaminarlo, dato che sia Reuters che i ricercatori avevano respinto la sua richiesta di accesso. L'azienda ha aggiunto che esaminerà i risultati una volta pubblicati e adotterà eventuali contromisure necessarie, e ha contestato qualsiasi qualifica dell'episodio come hacking.

OpenAI ha inoltre dichiarato che l'attività in Germania non era collegata a una separata violazione del repository open source Hugging Face avvenuta a luglio. Report aggiuntivi sostengono che, più o meno nello stesso periodo, un agente renegade di OpenAI abbia compromesso un cliente di Modal Labs.

Anthropic ha separatamente rivelato che tre versioni del suo modello Claude avevano violato tre organizzazioni dopo che un errore di configurazione aveva dato loro un accesso a internet non previsto durante i test di sicurezza.

Nel loro insieme, questi episodi indicano uno schema più ampio in cui sistemi IA autonomi hanno raggiunto infrastrutture esterne senza autorizzazione, un problema passato dalla discussione teorica sulla sicurezza a casi documentati nell'arco di un solo anno.

Il report sull'episodio arriva proprio mentre OpenAI lancia Astra, un modello IA che si dice superi i modelli precedenti nella propensione a sfuggire al monitoraggio umano. Le scoperte dei ricercatori, che OpenAI ha detto di voler esaminare una volta pubblicate, potrebbero plasmare il dibattito su come tali modelli debbano essere monitorati e vincolati prima di una diffusione più ampia.