Amazon запустила TorchNeuron — новый программный бэкенд, который позволяет разработчикам ИИ запускать существующий код PyTorch на чипах компании Trainium, изменив одну строку кода — переключившись с .to('cuda') на .to('neuron') — без переписывания или повторной валидации. Компания позиционирует инструмент как средство, делающее переход с чипов Nvidia примерно столь же простым, как изменение параметра в конфигурационном файле. Запуск нацелен на одно из самых прочных преимуществ Nvidia: программный уровень. Значительная часть современного ИИ-кода написана для экосистемы CUDA от Nvidia, и совместимость с этим инструментарием долгое время была практическим барьером для команд, рассматривающих альтернативное оборудование.

Подразделение Amazon Annapurna Labs анонсировало TorchNeuron 19 октября 2026 года, а публичная бета-версия запущена на следующий день на конференции PyTorch. Выбор момента был намеренным: PyTorch — доминирующий фреймворк для разработки ИИ-моделей, и дебют инструмента на его флагманской конференции — это флаг, водружённый прямо на территории Nvidia.

Что делает TorchNeuron

Выпущенный под лицензией открытого исходного кода Apache 2.0, TorchNeuron функционирует как бэкенд, интегрирующийся напрямую с PyTorch, благодаря чему чипы Trainium — в частности, поколения Trainium2 и Trainium3 — отображаются во фреймворке как нативные устройства. Практический результат: команда, выполняющая рабочие нагрузки на оборудовании Nvidia, теоретически может перенести свои конвейеры обучения и инференса на инфраструктуру AWS Trainium, не затрагивая кодовую базу. Лицензия также позволяет любому изучать, изменять и использовать код в коммерческих целях, что снижает барьеры при оценке бэкенда инженерными командами.

Более 30 ранних пользователей участвовали в альфа- и бета-тестировании до публичного запуска. Среди них — компании в области голосового ИИ Cartesia и Deepgram, а также Lieber Institute for Brain Development, который использует инструмент для исследований в сфере разработки лекарств. Ранние пользователи сообщили об экономии средств благодаря переходу, хотя конкретных цифр Amazon не публиковала.

Коммерческий контекст

По данным Amazon, её подразделение заказных чипов достигло годового уровня выручки в 25 млрд долларов, и компания прогнозирует, что этот показатель может достичь 50 млрд долларов. Если прогноз сбудется, масштаб подразделения удвоится — это мера коммерческого веса, стоящего за стремлением Amazon позиционировать Trainium как жизнеспособную альтернативу на рынке, который долгое время определяло оборудование Nvidia.

Известные ограничения

Первоначальный релиз не обошёлся без шероховатостей. В настоящее время TorchNeuron пропускает примерно 22 000 тестов в тестовом фреймворке PyTorch, главным образом потому, что пока не поддерживает некоторые расширенные функции, включая динамические формы входных данных. Это реальное ограничение для команд, чьи модели требуют гибкой обработки входных данных, и сигнал, что TorchNeuron — бета-продукт подлинном, а не в маркетинговом смысле слова. Для команд, оценивающих бета-версию, ориентиры конкретны: будет ли сокращаться количество пропускаемых тестов в последующих релизах, получат ли динамические формы входных данных поддержку и опубликует ли Amazon цифры по экономии средств, о которой сообщили её ранние пользователи.