Amazon Web Servicesは、Trainium2およびTrainium3 AIアクセラレータ向けのネイティブPyTorchバックエンド「TorchNeuron」を公開しました。研究向けのトレーニングを、他の通常のPyTorchジョブと同じ感覚で行えるようにすることを目的としたものです。これまでTrainiumチップは完成したAIモデルの実行には優れていたものの、新しいモデルを構築する際の試行錯誤を伴う実験的な作業には不便さがあり、これが長年の摩擦点となっていました。AWSはそのギャップを埋めようとしています。同アクセラレータは、機械学習ワークロード向けの同社自社開発シリコン製品ラインの一部です。

AWSがリリースしたもの

TorchNeuronは2026年10月19日にパブリックベータ版として公開されました。AWSは翌日の10月20日、北米PyTorch Conferenceでプロジェクトをオープンソース化しました。リリースは、AWSが自社製チップのプログラミングに使用しているソフトウェアツールキットであるNeuron SDKのバージョン.33.0と同時に行われました。

目玉機能はそのシンプルさです。開発者は.to('neuron')のような1行のコードでモデルをTrainiumに移行でき、他のデバイスにコードを向けるのと同じ感覚で利用できます。このワンライナーは標準的なPyTorch APIとの互換性を維持し、eager実行にも対応しています。eager実行とは、コードが呼び出した時点で操作が即座に実行され、より大きなグラフに先にコンパイルされることがない方式です。

従来の仕組みはPyTorch/XLA統合に依存していました。その方法では、開発者はトレーニングループのあちこちにxm.step()のような呼び出しを散りばめ、コンパイラ中心の独自プログラミングスタイルに合わせて作業する必要がありました。動作はしましたが、追加のコードを要求し、APIカバー範囲も狭いものでした。

この改善で取り除かれる摩擦は、業界全体に関わるものです。PyTorchはAI研究で支配的なフレームワークであり、NVIDIAのCUDAソフトウェアスタックは依然としてその実行環境のデファクトスタンダードです。代替アクセラレータでは通常、トレーニングを開始する前に開発者がコードを適応させる必要があります。バックエンドのオープンソース化により、その開発は公開の場に置かれ、研究者はAWSだけを待つのではなく、コードを検証し、問題を報告し、変更に貢献できるようになります。

Neuron 2.33には、次のようないくつかのサポート機能のアップグレードも含まれています。

• Neuron Observer：ハードウェアの健全性の問題を検出するツール
• NKI機能の強化：より低レベルなカスタマイズに対応
• vLLMプラグインの更新：TorchNeuronとの連携向けに調整

ただし、旧世代のハードウェアの所有者には留意点があります。TorchNeuronが対応するのはTrainium2とTrainium3のみです。Trainium1とInferentiaチップファミリーは対象外です。

なぜ推論が先だったのか

Trainiumは、訓練済みモデルが実際のリクエストに応答する段階である推論の分野ですでに足場を築いています。AnthropicはTrainium2およびTrainium3上で本番推論と強化学習のロールアウトを実行しています。

研究向けトレーニングは事情が異なります。研究者は層を頻繁に入れ替え、バリエーションをテストし、アブレーション(1つの構成要素を取り除いたり変更したりして何が壊れるかを確かめる実験)を行います。その都度、PyTorch APIのさまざまな部分が呼ばれる可能性があり、このパターンが従来のXLAベースのワークフローでは追加の労力を要求していました。
この分断があるからこそ、今回のリリースは重要な意味を持ちます。トレーニングは新しいモデルが生まれる場であり、ネイティブサポートにより、Trainiumはモデルが完成した後だけでなく、最初の実験の時点から選択肢に加わることになります。

すでに利用している企業

AWSによれば、TorchNeuronには30社を超えるアーリーアクセス顧客がおり、その範囲はロボティクス、音声AI、大規模言語モデル開発に及びます。音声AI分野の2社であるCartesiaとDeepgramは、従来の構成と比較して大幅なパフォーマンス向上を報告しています。オープンAIモデルの代表的なハブであるHugging Faceも、Trainiumサポートを採用しました。

このアップデートにより、Trainiumはより幅広い研究ユースケースにも開放されます。創薬などの分野が、ハードウェアへのアクセス容易化の恩恵を受け得る領域として挙げられています。パブリックベータとして、TorchNeuronの機能セットとハードウェア対応範囲は、プロジェクトが安定するまで変更される可能性があります。当面の間、Trainium1またはInferentiaを利用するチームは従来のXLAベースのツールを使い続けることになります。