La prospettiva che i modelli di intelligenza artificiale imparino autonomamente a diventare più efficienti e capaci — un tempo un’ambizione lontana per i ricercatori tecnologici — si sta avvicinando alla realtà.

Con l’avanzare della tecnologia, gli sviluppatori affermano che ci si sta avvicinando al «miglioramento ricorsivo autonomo», o RSI, una fase in cui i modelli di IA trovano il modo di migliorarsi e costruire i propri successori. Secondo i dirigenti delle aziende tecnologiche, questo cambiamento potrebbe portare progressi nella scienza e nella medicina, ma comporta anche dei rischi.

L’incertezza su dove tutto questo possa condurre è al centro dei crescenti timori che l’IA possa sfuggire al controllo umano e rappresentare una possibile minaccia per l’umanità. Queste preoccupazioni hanno spinto diverse figure del settore dell’IA a unirsi lo scorso fine settimana a un appello per rallentare il ritmo di crescita della tecnologia.

Questa settimana Anthropic ha illustrato in dettaglio come il suo modello Claude stia aiutando l’azienda a sviluppare la versione successiva, più intelligente, di sé stesso. Claude guida ora il 26% della ricerca e sviluppo dei modelli di Anthropic; secondo l’azienda, ciò significa che può completare la maggior parte delle attività «end-to-end da un prompt di alto livello», operando comunque sotto supervisione umana. I modelli non lavorano ancora in modo completamente autonomo — almeno per il momento.

Definizioni concorrenti di RSI

Le principali aziende di IA definiscono il miglioramento ricorsivo autonomo in modo diverso. Alcune lo considerano qualsiasi contributo dell’IA al miglioramento dei modelli, mentre altre lo definiscono come il lavoro dell’IA verso quell’obiettivo in modo completamente autonomo. La distinzione è importante: poiché non esiste una soglia condivisa per stabilire cosa costituisca RSI, le dichiarazioni sui progressi dei diversi laboratori non misurano tutte la stessa cosa.

Secondo Anthony Aguirre, presidente e CEO dell’organizzazione non profit Future of Life Institute e professore di fisica presso l’University of California, Santa Cruz, il miglioramento ricorsivo autonomo consiste essenzialmente in un’IA capace di migliorarsi progettando la versione successiva del sistema, poi quella seguente, e così via.

«La cosa davvero importante è che, quanto più l’IA svolge questo lavoro, tanto più diventa veloce, perché l’IA opera molto, molto più rapidamente degli esseri umani», ha affermato.

Gli esperti valutano il rischio di una fuga rispetto a una realtà graduale

Secondo John Thickstun, professore associato di informatica alla Cornell University, che studia i metodi per controllare il comportamento dei modelli di IA, il timore legato all’RSI si basa in gran parte sulla possibilità che dal processo emerga una superintelligenza fuori controllo — uno scenario in cui i sistemi capaci di migliorarsi avanzano oltre la capacità degli esseri umani di monitorarli o controllarli. Tuttavia, ha affermato che una prospettiva più concreta suggerisce che una forma di miglioramento ricorsivo sia già in corso da tempo nello sviluppo dell’IA.

«Da anni utilizziamo già questi modelli in ruoli di supporto per creare la versione successiva di questi stessi modelli. Le persone usano quindi la generazione precedente di modelli per scrivere il codice dei sistemi di IA che poi creano la generazione successiva», ha detto.

Da anni importanti ricercatori di IA — tra cui il cofondatore di OpenAI Andrej Karpathy — sperimentano l’impiego dei modelli di IA per addestrare e migliorare nuovi sistemi di IA. Secondo Thickstun, questi sforzi hanno prodotto miglioramenti marginali, ma non grandi salti creativi.

Aguirre, tuttavia, ha affermato che oggi le aziende di IA sono molto più vicine a realizzare progressi di questo tipo.

«Nei grafici di Anthropic nel corso del tempo si può vedere che una quota sempre maggiore della ricerca viene svolta dall’IA e che ci si avvicina sempre di più alla piena autonomia», ha detto. «E il risultato di questo successo, alla fine, è qualcosa che, a mio avviso, fa estremamente paura. Penso che questa sia probabilmente la peggiore idea nella storia dell’umanità. E sì, lo stanno facendo.»

L’annuncio di Anthropic ha fornito al pubblico — e agli altri laboratori — alcune indicazioni sui progressi verso l’RSI, incoraggiando i concorrenti dell’azienda a condividere metriche simili. I dati pubblicati dai concorrenti in risposta potrebbero offrire al settore una base comune per confrontare i progressi verso la ricerca autonoma. Anthropic, tuttavia, non ha dichiarato esplicitamente quanto sia vicina a ottenere un miglioramento completamente autonomo dei modelli.

Lo «stagista di ricerca» di OpenAI e un obiettivo per il 2028

OpenAI, l’azienda che ha creato ChatGPT, ha annunciato questo mese di aver sviluppato uno «stagista di ricerca» automatizzato, definito come un sistema in grado di svolgere attività di ricerca ben delineate sotto la guida umana, comprese «attività che richiederebbero alcuni giorni a un ricercatore qualificato». L’azienda ha dichiarato di voler procedere con l’obiettivo di creare un «ricercatore» IA automatizzato entro marzo 2028. La data offre agli osservatori una tappa concreta, indicata dall’azienda, rispetto alla quale misurare i progressi.

In quell’annuncio, OpenAI ha affermato che, sebbene l’RSI possa contribuire ad allineare le azioni dei modelli ai valori e alle intenzioni umane, ciò non significa che «un RSI rapido sia necessariamente un risultato che dovremmo perseguire».

«Se e come procedere deve dipendere dalla nostra capacità di preservare il controllo umano e da scelte democratiche consapevoli sui benefici e sui rischi», ha dichiarato l’azienda in un post sul blog.

Musk segnala tempi più rapidi per xAI

Elon Musk sembra più desideroso di procedere. Parlando a marzo dei modelli Grok di xAI, ha affermato che «gli esseri umani sono gradualmente sempre meno coinvolti» nel miglioramento dei modelli e che «ogni modello successivo viene costruito da quello precedente», precisando però che il processo non era ancora completamente automatizzato. Questo obiettivo potrebbe essere raggiunto entro la fine di quest’anno, ha aggiunto, «ma non oltre» il 2027 — una tempistica che anticipa l’obiettivo di OpenAI fissato a marzo 2028, sebbene le due aziende descrivano il traguardo in modo diverso.

L’alternativa «umanista» di Microsoft

Microsoft e alcune altre importanti aziende di IA sembrano adottare un approccio diverso. Mustafa Suleyman, CEO di Microsoft AI, ha dichiarato che l’azienda si sta orientando verso una «superintelligenza umanista» — capacità avanzate di IA messe al servizio delle persone e dell’umanità nel suo complesso. In un saggio del 2025, Suleyman ha affermato che ciò non avrebbe significato «un’entità senza vincoli e senza limiti, con elevati livelli di autonomia», bensì un’IA «calibrata con attenzione, contestualizzata e soggetta a limiti».

Le misure di sicurezza faticano a tenere il passo

Una delle principali sfide per i laboratori — che affrontano essenzialmente fin dall’inizio della tecnologia — consiste nel garantire che le misure di sicurezza avanzino insieme alle capacità dei modelli.

Nel settore tecnologico sono emerse divisioni sulle richieste di un rallentamento coordinato dell’IA per motivi di sicurezza, e non tutti i principali operatori del settore hanno commentato specificamente il proprio percorso verso l’RSI.

Anthropic, che ha assunto una posizione di primo piano nelle richieste di rallentamento, ha dichiarato che ridurrebbe il ritmo o sospenderebbe temporaneamente il proprio lavoro di sviluppo — a condizione che anche i concorrenti globali facciano lo stesso e in modo «verificabile».

OpenAI ha dichiarato esplicitamente questo mese di non sapere ancora come «arrivare in sicurezza fino a un RSI completo e allineato», aggiungendo che l’azienda «non può presumere che i progressi nell’allineamento e nella sicurezza manterranno lo stesso ritmo». I sistemi più capaci possono diventare più difficili da monitorare, ha proseguito, ma perseguire l’RSI resta un obiettivo che l’azienda considera importante, perché un «ricercatore IA automatizzato può essere anche un ricercatore automatizzato di sicurezza o di allineamento».

Questa storia è stata pubblicata originariamente su Fortune.com.