Amazon Web Services запустила TorchNeuron — нативный бэкенд PyTorch для своих ИИ-ускорителей Trainium2 и Trainium3, созданный, чтобы исследовательское обучение ощущалось как любая другая задача в PyTorch. Этот шаг устраняет давнюю проблему: чипы Trainium хорошо справлялись с запуском готовых ИИ-моделей, но были неудобны для сложной экспериментальной работы по созданию новых. AWS теперь хочет закрыть этот разрыв. Ускорители являются частью линейки собственного кремния компании для задач машинного обучения.

Что именно выпустила AWS

TorchNeuron вышел в публичную бета-версию 19 октября 2026 года. Через день, 20 октября, на конференции PyTorch Conference North America AWS открыла исходный код проекта. Релиз вышел одновременно с версией 2.33.0 Neuron SDK — набора инструментов, который AWS использует для программирования своих собственных чипов.

Главная особенность — простота. Разработчики могут перенести модель на Trainium одной строкой кода, например .to('neuron'), почти так же, как указывают устройство для любого другого кода. Эта однострочка сохраняет совместимость со стандартными API PyTorch и поддерживает энергичное выполнение (eager execution), то есть операции выполняются немедленно по мере вызова кодом, а не сначала компилируются в общий граф.

Прежняя схема опиралась на интеграцию PyTorch/XLA. Этот путь требовал от разработчиков вставлять вызовы вроде xm.step() по всему обучающему циклу и обходить ограничения специального, ориентированного на компилятор стиля программирования. Это работало, но требовало дополнительного кода и покрывало более узкий набор API.

Устраняемое неудобство носит отраслевой характер. PyTorch — доминирующий фреймворк в ИИ-исследованиях, а программный стек NVIDIA CUDA остаётся средой по умолчанию для его запуска; альтернативные ускорители обычно требуют от разработчиков адаптировать код до начала обучения. Открытие исходного кода бэкенда также делает его разработку публичной: исследователи могут изучать код, сообщать о проблемах и вносить изменения, не полагаясь только на AWS.

Neuron 2.33 также приносит несколько вспомогательных улучшений:

• Neuron Observer — инструмент для выявления проблем со здоровьем оборудования
• Улучшенная функциональность NKI для настройки более низкого уровня
• Обновлённые плагины vLLM, настроенные для работы с TorchNeuron

Однако для владельцев старого оборудования есть подвох: TorchNeuron поддерживает только Trainium2 и Trainium3. Trainium1 и семейство чипов Inferentia остались за бортом.

Почему первым делом появился инференс

Trainium уже закрепился в инференсе — этапе, на котором обученная модель отвечает на реальные запросы. Anthropic использует Trainium2 и Trainium3 для производ инференса и развёртывания обучения с подкреплением.

Исследовательское обучение — совсем другое дело. Учёные постоянно меняют слои, тестируют варианты и проводят абляции — эксперименты, в которых удаляется или изменяется один компонент, чтобы посмотреть, что сломается. Каждая правка может задействовать разные участки API PyTorch — паттерн, который требовал дополнительных усилий в прежнем рабочем процессе на основе XLA.

Именно из-за этого разделения релиз имеет значение: обучение — это то, где создаются новые модели, и нативная поддержка позволяет Trainium участвовать с первых экспериментов модели, а не только после её завершения.

Кто уже использует

По данным AWS, у TorchNeuron более 30 ранних клиентов. Они работают в робототехнике, голосовом ИИ и разработке больших языковых моделей. Cartesia и Deepgram, две компании в области голосового ИИ, сообщают о существенном улучшении производительности по сравнению с их прежними конфигурациями. Hugging Face, популярный хаб открытых ИИ-моделей, также принял поддержку Trainium.

Обновление открывает Trainium для более широкого круга исследовательских задач: в числе областей, которые могут выиграть от более простого доступа к оборудованию, упоминается, в частности, поиск новых лекарств. Поскольку TorchNeuron находится в публичной бете, набор функций и покрытие оборудования могут ещё измениться до стабилизации проекта; тем временем команды на Trainium1 или Inferentia продолжают работать с прежними инструментами на основе XLA.