Un nuovo articolo di ricerca della Carnegie Mellon University sostiene che pre-addestramento, fine-tuning e reinforcement learning possano essere eseguiti come un unico algoritmo anziché in tre fasi di addestramento separate.

La maggior parte dei foundation model—i modelli ampi e generici che costituiscono la base di molti sistemi di IA—sono costruiti come un pasto di tre portate: prima il pre-addestramento, poi il fine-tuning e infine il reinforcement learning. Lo studio della Carnegie Mellon suggerisce che queste portate potrebbero funzionare meglio servite su un unico piatto.

L'articolo, intitolato "Training Foundation Models with a Single Algorithm", è stato pubblicato su arXiv il 29 ottobre 2026, un server di preprint dove le ricerche vengono spesso rilasciate prima della revisione formale tra pari. L'autore principale è Yuda Song della Carnegie Mellon University, che ha lavorato insieme a collaboratori della Johns Hopkins University e di Aurora Innovation. Secondo lo studio, combinare tutti e tre i tipi di dati di addestramento in un unico metodo unificato può superare l'approccio tradizionale a fasi.

Cosa hanno fatto effettivamente i ricercatori

L'idea centrale è una riformulazione. Il team tratta ogni fase di addestramento come un adattamento a massima verosimiglianza di dati generati dal modello.

Questo spostamento sposta le decisioni importanti altrove. Invece di una sequenza rigida di fasi distinte, il framework mette l'accento sulla composizione dei dati e sulla loro pianificazione temporale. Secondo questa visione, la differenza tra pre-addestramento, fine-tuning e reinforcement learning diventa una questione di quali dati vengono usati e quando, piuttosto di quale algoritmo viene applicato. I dataset statici—quelli usati nel pre-addestramento e nel fine-tuning supervisionato—vengono fusi con la gestione dei dati tipica del reinforcement learning, e tutto scorre attraverso un unico framework di addestramento.

I risultati finora

Secondo l'articolo, l'approccio unificato ha migliorato il compromesso tra accuratezza e potenza di calcolo. In termini pratici, i modelli hanno offerto più prestazioni con lo stesso budget di elaborazione.

Il metodo ha anche superato l'addestramento a fasi in diverse misure. Tra queste, valutazioni in-distribuzione, generalizzazione e propensione all'apprendimento continuo. I ricercatori riportano inoltre che l'addestramento unificato ha aiutato i modelli a mantenere capacità più ampie su molti compiti.

Il framework elimina la necessità di infrastrutture separate costruite per ogni fase di addestramento, il che, secondo gli autori, semplifica complessivamente i sistemi di addestramento. Gli esperimenti hanno riguardato modelli con circa 124 milioni di parametri e circa 0,76 miliardi di parametri—scale ben al di sotto di quelle dei modelli più grandi comunemente descritti come foundation model, quindi le evidenze a supporto dell'articolo provengono da una porzione comparativamente modesta dello spettro delle dimensioni dei modelli.

Perché esiste la ricetta a tre fasi

La pipeline a fasi è diventata lo standard perché ogni fase sembrava svolgere un compito distinto. Il pre-addestramento costruisce una conoscenza ampia, il fine-tuning insegna al modello a seguire le istruzioni e il reinforcement learning ne modella il comportamento verso gli esiti preferiti.

L'articolo della CMU sfida direttamente questa separazione. È descritto come la prima presentazione pubblica di un framework di addestramento unificato supportato da esperimenti.

Gli autori vanno oltre. Sostengono che un tale framework potrebbe aprire nuove strade per comprendere come emergono le capacità nei modelli e come queste vengono mantenute man mano che i modelli evolvono.

Cosa significa per gli sviluppatori di IA

Al 30 ottobre 2026, la ricerca non aveva prodotto applicazioni commerciali rilevanti né partnership di mercato. La discussione è rimasta per lo più all'interno della comunità accademica, concentrata su cosa un unico sistema di addestramento potrebbe significare per lo sviluppo dei modelli. L'implicazione pratica dichiarata dall'articolo per gli sviluppatori è che un unico framework di addestramento potrebbe sostituire i sistemi separati attualmente costruiti per ogni fase. Nello stato attuale, il lavoro rimane un risultato di ricerca piuttosto che una tecnica in uso operativo.

Per chi segue il lavoro, due indicatori concreti discendono dallo stato attuale dell'articolo: non ha ancora superato una revisione formale tra pari e gli esperimenti riportati si fermano alle scale di parametri descritte sopra. La replica indipendente e gli studi successivi su scale maggiori sono i punti di controllo visibili mentre la ricerca circola.