Новая исследовательская статья Университета Карнеги-Меллон утверждает, что предобучение, дообучение и обучение с подкреплением могут выполняться как единый алгоритм, а не три отдельных этапа обучения.

Большинство фундаментальных моделей — крупных моделей общего назначения, которые служат основой для множества систем ИИ — создаются как обед из трех блюд: сначала предобучение, затем дообучение, а обучение с подкреплением на десерт. Исследование Карнеги-Меллон предполагает, что эти «блюда» могут лучше работать, если подать их на одной тарелке.

Статья под названием «Training Foundation Models with a Single Algorithm» была размещена на arXiv 29 октября 2026 года — на сервере препринтов, где исследования обычно публикуются до формального рецензирования. Ее ведущий автор — Юда Сон из Университета Карнеги-Меллон, работавший совместно с соавторами из Университета Джонса Хопкинса и Aurora Innovation. Согласно исследованию, объединение всех трех типов обучающих данных в один унифицированный метод может превзойти традиционный поэтапный подход.

Что на самом деле сделали исследователи

Ключевая идея — переосмысление. Команда рассматривает каждый этап обучения как подгонку по методу максимального правдоподобия данных, сгенерированных моделью.

Этот сдвиг переносит важные решения в новое место. Вместо жесткой последовательности отдельных фаз фреймворк делает акцент на составе данных и расписании обучения. С такой точки зрения различие между предобучением, дообучением и обучением с подкреплением сводится к вопросу о том, какие данные используются и когда, а не какой алгоритм применяется. Статические наборы данных — те, что используются в предобучении и контролируемом дообучении, — объединяются с управлением данными, применяемым в обучении с подкреплением, и все проходит через один фреймворк обучения.

Результаты на данный момент

Согласно статье, единый подход улучшил компромисс между точностью и вычислительными затратами. На практике модели демонстрировали более высокую производительность при том же вычислительном бюджете.

Метод также превзошел поэтапное обучение по ряду показателей, включая оценки внутри распределения, обобщение и готовность к непрерывному обучению. Исследователи также сообщают, что унифицированное обучение помогало моделям сохранять более широкий набор возможностей во многих задачах.

Фреймворк устраняет необходимость в отдельной инфраструктуре для каждого этапа обучения, что, по словам авторов, упрощает системы обучения в целом. Эксперименты охватывали модели с примерно 124 млн параметров и примерно 0,76 млрд параметров — масштабы значительно ниже самых крупных моделей, которые обычно называют фундаментальными, поэтому подтверждающие данные статьи охватывают сравнительно скромный сегмент спектра размеров моделей.

Почему существует трехэтапная схема

Поэтапный конвейер стал стандартом, потому что каждая фаза, как казалось, выполняла отдельную задачу. Предобучение формирует широкие знания, дообучение учит модель следовать инструкциям, а обучение с подкреплением направляет поведение к желаемым результатам.

Статья CMU напрямую оспаривает это разделение. Она описывается как первая публичная презентация фреймворка унифицированного обучения, подкрепленная экспериментами.

Авторы идут дальше. Они утверждают, что такой фреймворк может открыть новые способы понимания того, как в моделях возникают возможности и как эти возможности сохраняются по мере эволюции моделей.

Что это значит для разработчиков ИИ

По состоянию на 30 октября 2026 года исследование не привело к заметным коммерческим применениям или рыночным партнерствам. Обсуждение оставалось преимущественно в академическом сообществе и было сосредоточено на том, что единая система обучения может означать для разработки моделей. Заявленное практическое следствие статьи для разработчиков состоит в том, что единый фреймворк обучения может заменить отдельные системы, создаваемые сейчас для каждого этапа. На данный момент работа остается исследовательским результатом, а не внедренной технологией.

Для тех, кто следит за этой работой, из текущего статуса статьи следуют два конкретных ориентира: она еще не прошла формальное рецензирование, а описанные эксперименты ограничены указанными выше масштабами параметров. Независимое воспроизведение результатов и последующие исследования в больших масштабах — очевидные контрольные точки по мере распространения исследования.