Amazon 推出 TorchNeuron,AI 開發者只需一行程式碼即可在 Trainium 晶片上執行 PyTorch
重點速覽
- •TorchNeuron 讓開發者只需將一行裝置程式碼由 'cuda' 切換為 'neuron',即可在 Amazon 的 Trainium2 和 Trainium3 晶片上執行現有的 PyTorch 工作負載,無需重寫程式碼或重新驗證。
- •Amazon 的 Annapurna Labs 於 2026 年 10 月 19 日宣布 TorchNeuron,並以 Apache 2.0 開源授權在 PyTorch Conference 上推出公開測試版。
- •超過 30 家早期採用者參與 alpha 與 beta 測試,包括語音 AI 公司 Cartesia 和 Deepgram,以及將此工具應用於藥物研究的 Lieber Institute for Brain Development。
- •Amazon 的客製化晶片部門年化營收運行率已達 250 億美元,公司預估該數字可望翻倍至 500 億美元。
- •初始版本略過 PyTorch 框架中約 22,000 項測試,主要原因是尚未支援動態輸入形狀等進階功能。

Amazon 推出 TorchNeuron,這是一個全新的軟體後端,讓 AI 開發者只需更改一行程式碼——將 .to('cuda') 切換為 .to('neuron')——即可在該公司的 Trainium AI 晶片上執行現有的 PyTorch 程式碼,無需重寫或重新驗證。Amazon 將此工具定位為:離開 Nvidia 晶片的遷移難度,大致上就和修改設定檔中的一個設定一樣簡單。這次發布直指 Nvidia 最持久的優勢之一:軟體層。現今大部分的 AI 程式碼都是針對 Nvidia 的 CUDA 生態系所撰寫,與該工具鏈的相容性長期以來一直是團隊評估替代硬體時的實際門檻。
Amazon 旗下 Annapurna Labs 部門於 2026 年 10 月 19 日宣布 TorchNeuron,公開測試版於隔日在 PyTorch Conference 上推出。時機經過刻意安排:PyTorch 是 AI 模型開發的主流框架,在該框架的旗艦會議上首次亮相,等於直接在 Nvidia 的地盤插旗。
TorchNeuron 的實際功能
TorchNeuron 以 Apache 2.0 開源授權釋出,作為一個直接與 PyTorch 整合的後端運作,讓 Trainium 晶片——特別是 Trainium2 和 Trainium3 世代——在框架中顯示為原生裝置。實際效果是,在 Nvidia 硬體上執行工作負載的團隊,理論上可以將其訓練與推論管線遷移至 AWS Trainium 基礎架構,而無需更動程式碼庫。該授權也允許任何人檢視、修改並將程式碼用於商業用途,降低了工程團隊評估此後端的門檻。
超過 30 家早期採用者在公開發布前參與了 alpha 與 beta 測試,包括語音 AI 公司 Cartesia 和 Deepgram,以及將此工具應用於藥物研究的 Lieber Institute for Brain Development。早期使用者回報轉換後帶來成本節省,但 Amazon 並未公布具體數字。
商業考量
根據 Amazon 的說法,其客製化晶片部門的年化營收運行率已達 250 億美元,公司預估該數字可達 500 億美元。若預測成真,將使該部門目前的規模翻倍——這顯示出 Amazon 全力將 Trainium 定位為可行替代商業決心,以挑戰長期由 Nvidia 硬體主導的市場。
已知限制
初始版本並非毫無瑕疵。TorchNeuron 目前略過 PyTorch 測試框架中約 22,000 項測試,主要原因是尚未支援某些進階功能,包括動態輸入形狀。對於執行需要靈活輸入處理的模型之團隊而言,這是一項實際的限制,也表明 TorchNeuron 是名副其實的測試版產品,而非行銷用語。對於正在評估此測試版的團隊,值得關注的指標相當具體:後續版本是否縮小略過測試的數量、動態輸入形狀是否獲得支援,以及 Amazon 是否公布早期採用者所回報的成本節省數據。