Un nouvel article de recherche de l'Université Carnegie Mellon soutient que le pré-entraînement, le fine-tuning et l'apprentissage par renforcement peuvent s'exécuter comme un seul algorithme plutôt que comme trois étapes d'entraînement distinctes.

La plupart des modèles de fond — les grands modèles à usage général qui servent de base à de nombreux systèmes d'IA — sont construits comme un repas en trois services : le pré-entraînement d'abord, le fine-tuning ensuite, et l'apprentissage par renforcement en dessert. L'étude de Carnegie Mellon suggère que ces services fonctionneraient mieux servis dans une seule assiette.

L'article, intitulé « Training Foundation Models with a Single Algorithm », a été publié sur arXiv le 29 octobre 2026, un serveur de prépublications où les recherches sont couramment diffusées avant la revue par les pairs formelle. Son auteur principal est Yuda Song de l'Université Carnegie Mellon, qui a travaillé avec des collaborateurs de l'Université Johns Hopkins et d'Aurora Innovation. Selon l'étude, fusionner les trois types de données d'entraînement en une méthode unifiée peut surpasser l'approche traditionnelle par étapes.

Ce que les chercheurs ont réellement fait

L'idée centrale est un recadrage. L'équipe considère chaque étape d'entraînement comme un ajustement au maximum de vraisemblance de données générées par le modèle.

Ce déplacement place les décisions importantes ailleurs. Au lieu d'une séquence rigide de phases distinctes, le cadre met l'accent sur la composition des données et leur ordonnancement. Selon cette perspective, la différence entre le pré-entraînement, le fine-tuning et l'apprentissage par renforcement devient une question de quelles données sont utilisées et à quel moment, plutôt que de quel algorithme est appliqué. Les ensembles de données statiques — ceux utilisés dans le pré-entraînement et le fine-tuning supervisé — sont fusionnés avec la gestion des données employée dans l'apprentissage par renforcement, et tout transite par un cadre d'entraînement unique.

Les résultats à ce jour

Selon l'article, l'approche unifiée a amélioré le compromis entre précision et calcul. Concrètement, les modèles ont délivré plus de performance pour le même budget de traitement.

La méthode a également surpassé l'entraînement par étapes sur plusieurs mesures, notamment les évaluations en distribution, la généralisation et l'aptitude à l'apprentissage continu. Les chercheurs rapportent aussi que l'entraînement unifié a aidé les modèles à conserver des capacités plus étendues sur de nombreuses tâches.

Le cadre élimine le besoin d'une infrastructure distincte construite pour chaque étape d'entraînement, ce qui, selon les auteurs, simplifie globalement les systèmes d'entraînement. Les expériences ont porté sur des modèles d'environ 124 millions de paramètres et d'environ 0,76 milliard de paramètres — des échelles bien inférieures à celles des plus grands modèles généralement qualifiés de modèles de fond, de sorte que les preuves à l'appui de l'article proviennent d'une portion relativement modeste du spectre des tailles de modèles.

Pourquoi la recette en trois étapes existe-t-elle à l'origine

Le pipeline par étapes est devenu la norme parce que chaque phase semblait remplir une fonction distincte. Le pré-entraînement construit des connaissances générales, le fine-tuning apprend au modèle à suivre des instructions, et l'apprentissage par renforcement oriente le comportement vers des résultats souhaités.

L'article de CMU remet directement en cause cette séparation. Il est décrit comme la première présentation publique d'un cadre d'entraînement unifié étayé par des expériences.

Les auteurs vont plus loin. Ils soutiennent qu'un tel cadre pourrait ouvrir de nouvelles voies pour comprendre comment les capacités émergent dans les modèles, et comment ces capacités sont conservées à mesure que les modèles évoluent.

Ce que cela signifie pour les développeurs en IA

Au 30 octobre 2026, la recherche n'avait produit aucune application commerciale ni partenariat de marché notables. Les discussions sont restées principalement au sein de la communauté universitaire, axées sur ce qu'un système d'entraînement unique pourrait signifier pour le développement des modèles. L'implication pratique annoncée dans l'article pour les développeurs est qu'un cadre d'entraînement unique pourrait remplacer les systèmes distincts actuellement construits pour chaque étape. En l'état, le travail demeure un résultat de recherche plutôt qu'une technique déployée.

Pour ceux qui suivent ces travaux, deux repères concrets découlent de l'état actuel de l'article : il n'a pas encore été soumis à une revue par les pairs formelle, et ses expériences rapportées s'arrêtent aux échelles de paramètres décrites ci-dessus. La réplication indépendante et les études de suivi à plus grande échelle constituent les jalons visibles à mesure que la recherche se diffuse.