IBM與Together AI簽署2.4億美元協議，打造Nvidia驅動的AI運算叢集

IBM已與總部位於舊金山的新創公司Together AI簽署一項價值2.4億美元的多年期協議，將打造由Nvidia系統驅動的大規模AI叢集，此舉反映了企業對開源AI模型的需求正急遽攀升。

Together AI提供基礎設施，使企業能夠使用開源模型（包括DeepSeek、MiniMax和Kimi）來訓練和部署AI工作負載。這家獲得Nvidia創投部門支持的新創公司，已將自身定位為託管基礎設施的關鍵供應商，服務對象為希望獲得前沿模型能力、同時無需依賴專有API生態系統的組織。

該叢集於週二公布，旨在為開源AI模型提供推論能力——即運行已訓練的AI模型以生成回應的過程。此基礎設施將託管於IBM Cloud，並以Nvidia的HGX B300系統為核心構建，該系統搭載Nvidia最新的Blackwell處理器，搭配Nvidia Spectrum-X乙太網路架構。Blackwell是Hopper世代晶片（如廣泛部署的H100和H200）的繼任者，後者支撐了第一波大規模AI基礎設施建設。

Nvidia表示，相較於前一代架構，該平台可提供30倍的AI工廠產出。

初始的美國部署將包含約2,000顆Nvidia Blackwell晶片，預計於2017年第一季上線。

對於在整體市占率上落後於AWS、Microsoft Azure和Google Cloud的IBM Cloud而言，此協議代表了一項有針對性的策略，旨在成為高效能AI運算工作負載的首選目的地，特別是針對具有法規遵循和資料主權要求的企業。

此協議達成之際，正值各界對日益自主的AI系統之能力和安全風險的審查日益加劇，此前已發生一系列涉及Anthropic、OpenAI和Meta模型的網路安全事件。

作為對上述疑慮的回應，各界對開源模型的興趣持續增長——這些模型可供公開存取和修改，且通常比閉源替代方案成本更低。在專用基礎設施上部署開源模型還能讓企業對資料處理擁有更大的控制權，這一考量推動了金融和醫療保健等受管制產業的採用。

Together AI執行長Vipul Ved Prakash在聲明中表示：「企業希望獲得最佳前沿模型的效能，同時無需承擔閉源模型的價格負擔，而這只有在底層基礎設施能夠在大規模下保持快速且可靠時才能實現。這個叢集……是我們推動開源AI成為企業首選的重要一步。」

此協議也是IBM與Nvidia之間持續合作夥伴關係的最新篇章，兩家公司持續為企業客戶擴充AI基礎設施和軟體產品。

今年三月，IBM和Nvidia宣布擴大合作，旨在協助「企業大規模營運化AI」。該計畫涵蓋GPU加速資料分析、非結構化資料處理、受管制的AI基礎設施，以及雲端運算與顧問服務。