Nvidia 推出 Jetson Orin Nano 2，這是一款專為打造可即時運作的機器人、無人機與視覺 AI 系統而設計的新型邊緣 AI 平台，也象徵這家晶片大廠持續推動實體 AI——即在實體世界中感知與行動、而非僅生成文字或影像的機器——邁向現實應用。

該平台已於週二正式發表，預計 2027 年上半年問世，採用新版 Nvidia Ampere 架構晶片。Nvidia 公布的初期客戶包括機器視覺公司 Cognex、工程機械製造商 Doosan Bobcat，以及掃地機器人新創 Matic，涵蓋工業、商用與消費性應用。

根據 Nvidia 的說法，Nano 2 的效能為前代的兩倍，或在相同效能水準下降低最多 40% 的能耗。由於邊緣系統是直接在裝置上運行 AI，而非在資料中心執行，對於必須即時反應、又沒有伺服器電力與散熱資源可用的電池供電機器人和無人機而言，這兩項數據都至關重要。

Nvidia 機器人與邊緣 AI 副總裁 Deepu Talla 在媒體簡報中表示，此次發布是為了因應模型準確度來到「轉捩點」。

「過去需要大型資料中心和大量 GPU 才能完成的工作，現在可以在 Nvidia Jetson 上運行，」他說。「我們現在能達到與去年最大模型相同的前沿準確度。」

高效能 AI 模型的可及性提升，對機器人產業是一大利多；Talla 表示，這也終於讓精密的實體 AI 得以在邊緣端實際落地。

「機器人是一個『三台電腦』的問題，」他說。「第一台電腦用來訓練智能，中間的第二台電腦負責所有測試與策略評估。最後一台，也就是第三台電腦，則是執行階段或說機器人的大腦，而那就是 Nvidia Jetson。」

邊緣端的即時模型

Nvidia 表示，Orin Nano 2 可即時運行最新的小型與中型語言模型及視覺語言模型。Talla 以 Nvidia 自家的 Nemotron 模型為例，指出最新的 Nemotron 3.5 Lightning 在 Jetson 上約可達每秒 115 個 token 的運行速度。

這樣的效能不僅來自硬體改良，也得益於模型訓練的進展。Talla 將這些進步歸功於更優質的訓練資料、模型架構的改善，以及運用較大模型來訓練（或蒸餾）較小模型的能力。他表示，其成果是一套比以往系統更快速、更易於使用的機器人訓練框架。

降低機器人成本

「過去的機器人程式設計極為耗時且昂貴，」Talla 說。「但現在有了自主能力，機器人程式設計將變得非常容易，而且我們已經看到入門級 AI 應用出現爆發性成長。」

隨著 AI 模型自動化更多程式設計工作，這樣的轉變可望讓機器人在大量生產的工業應用之外，也變得符合經濟效益。

Jetson 系列自 2014 年起便由 Nvidia 向開發者推廣，長期以來是其邊緣運算業務的支柱；而在這個市場上，Nvidia 並非唯一玩家：Qualcomm、AMD 與 Intel 同樣銷售瞄準邊緣 AI 工作負載的處理器。

賓夕法尼亞大學工程與應用科學學院教授 Ben Lee 表示，隨著機器人需要功能日益強大的模型才能在本地運行，Nvidia 在邊緣 AI 領域的既有地位為其奠定了穩固起點。

「Nvidia 的 Jetson 平台在邊緣 AI 晶片市場占有重要地位，」Lee 說。「整合功能更強大的 AI 處理器，並為推論提供額外的軟體支援，將有助於在機器人及其他自主系統中採用更新的 AI 模型。」

Lee 也強調在傳統工業環境之外部署機器人的經濟效益，指出更成熟的軟體堆疊可望減輕工程負擔——正是這種負擔，讓機器人過去難以在低價值應用上獲得合理投資。

「對機器人來說，挑戰在於工程成本難以在一般性的低價值使用情境中獲得合理化，」他說。「一套能讓這些機器人與處理器更容易編程的成熟軟體堆疊，將可減少工程投入並降低成本。」

小模型，大足跡

Informa TechTarget 旗下 Omdia 的分析師 Alexander Harrowell 指出，Nvidia 對機器人市場的訴求，正逢業界對於什麼才算「小模型」的定義出現更廣泛轉變之際。

「確實有越來越多 AI 進入機器人，小型多模態 Transformer 在這個領域也越來越常見，」Harrowell 說。

他認為，這一區別將影響業界如何解讀 Nvidia 的規格。

「雖然小型 AI 模型正變得更好、也更重要，但我們視為小模型的東西正在改變，」他說，並指出 Hugging Face 上的典型模型已從約 1,000 萬至 1 億個參數，成長到 30 億至 80 億個參數。Hugging Face 是一個廣泛使用的公開儲存庫，供使用者分享 AI 模型。

至於 Orin Nano 2 的硬體實際上能支援到什麼程度，Harrowell 持較為保留的態度。

「從 Nano 2 的規格來看，限制因素是記憶體容量，」他說。

在預計 2027 年上半年才會上市的情況下，最終硬體將搭載多少記憶體、以及哪些模型能放入其中，將是開發者圍繞該平台規劃系統時衡量的關鍵細節。

來源：AI Business