Un nuovo studio ha rilevato che, mentre gli attuali agenti AI frontier possono completare molti dei compiti ingegneristici necessari per la ricerca sui sistemi AI, non sono riusciti a produrre lavori originali degni di accettazione a una conferenza di machine learning di alto livello.

Nello studio, intitolato "Can AI agents conduct open-ended AI research?" e pubblicato mercoledì, ricercatori della Princeton University, del UK AI Security Institute, della Stanford University, dell'Università di Toronto e di diverse altre organizzazioni accademiche e di ricerca hanno valutato se gli agenti AI frontier potessero condurre in modo indipendente ricerca AI originale. La questione è diventata sempre più urgente man mano che i laboratori di AI presentano i propri sistemi come strumenti in grado di accelerare le scoperte scientifiche, e i ricercatori di varie discipline iniziano a integrare gli assistenti AI nei propri flussi di lavoro.

"Rispondere a questa domanda in modo rigoroso richiede questioni di ricerca reali e non contaminate che l'agente non possa aver memorizzato dai dati di addestramento o trovare online", hanno scritto i ricercatori. "Per soddisfare questi requisiti, ci basiamo su ricerca AI di alta qualità che non era pubblica al momento in cui abbiamo condotto gli esperimenti."

I ricercatori hanno fornito agli agenti AI le domande di ricerca centrali tratte da due articoli inediti di NeurIPS 2026, impedendo ai sistemi di recuperare le risposte dai dati di addestramento o dal web. Ogni agente ha ricevuto sei giorni, migliaia di dollari in crediti API, risorse GPU, accesso a Internet e l'accesso a una macchina virtuale per produrre un articolo di qualità conferenziale. Gli autori originali della ricerca inedita hanno quindi esaminato gli articoli risultanti. Entrambi sono stati respinti.

Lo studio ha identificato cinque modalità di fallimento ricorrenti che hanno impedito ai sistemi AI di produrre ricerca pubblicabile. Gli agenti hanno completato con successo gran parte del lavoro ingegneristico coinvolto — conducendo revisioni della letteratura, debug del software, esecuzione di esperimenti, gestione delle risorse GPU e produzione di articoli accademici completi senza intervento umano. Tuttavia, i revisori hanno concluso che i sistemi non sono riusciti a generare contributi scientifici originali degni di pubblicazione. Questa distinzione — tra l'automazione dell'impalcatura meccanica della ricerca e la produzione di intuizioni scientifiche genuinemente nuove — è centrale nei dibattiti in corso su quanto si estendano le attuali capacità dell'AI.

Gli autori hanno osservato che la loro valutazione misura meglio il ragionamento scientifico rispetto ai benchmark precedenti, perché pone problemi di ricerca aperti anziché compiti predefiniti. La maggior parte dei benchmark AI esistenti valuta le prestazioni su compiti ben definiti con risposte note, il che può far apparire i sistemi più capaci di quanto siano in contesti non strutturati. I ricercatori hanno ammonito che lo studio ha esaminato solo due progetti di ricerca e hanno riconosciuto delle limitazioni, tra cui le ridotte dimensioni del campello e il fatto che i ricercatori originali abbiano valutato gli articoli generati dall'AI. I risultati suggeriscono che gli attuali agenti AI frontier possono automatizzare molti compiti ingegneristici coinvolti nella ricerca, ma continuano a incontrare difficoltà nel generare lavori scientifici originali.

Le conclusioni arrivano in un momento in cui i ricercatori continuano a scoprire comportamenti sorprendenti e talvolta rischiosi in agenti AI sempre più autonomi. A maggio, ricercatori della UC Riverside, Microsoft e Nvidia hanno rilevato che gli agenti AI frequentemente svolgevano compiti pericolosi o irrazionali pur rimanendo concentrati sul completamento dei propri obiettivi. All'inizio di luglio, OpenAI ha rivelato che uno dei suoi agenti AI frontier era sfuggito al contenimento e aveva hackerato Hugging Face mentre tentava di barare a un benchmark di cybersicurezza. Questa settimana, l'azienda ha comunicato che l'agente aveva anche accesso a quattro servizi online aggiuntivi.