新聞股票中國月之暗面(Moonshot AI)據報透過阿里巴巴擴展Kimi模型基礎設施 規模約2萬顆Nvidia AI晶片

中國月之暗面(Moonshot AI)據報透過阿里巴巴擴展Kimi模型基礎設施 規模約2萬顆Nvidia AI晶片

作者: Hokanews·

重點速覽

  • 據報月之暗面透過阿里巴巴雲端基礎設施取得約2萬顆Nvidia AI晶片驅動的運算資源,以支援其Kimi大型語言模型。
  • 阿里巴巴已公開否認向月之暗面提供H200驅動的運算服務,使業界分析師無法獨立核實實際部署的GPU型號。
  • 月之暗面由楊植麟於2023年創立,在2024年初的一輪融資後估值約25億美元,投資方包括阿里巴巴。
  • 自2022年以來,美國實施了多輪出口限制措施,限制中國取得先進AI晶片,促使Nvidia開發H20等中國合規版本。
  • 中國一直在投資國產半導體替代方案,包括華為的昇騰系列AI晶片,以在出口管制持續的情況下減少對外國技術的依賴。
中國月之暗面(Moonshot AI)據報透過阿里巴巴擴展Kimi模型基礎設施 規模約2萬顆Nvidia AI晶片

中國人工智慧產業正進入新階段,據報導指出,AI新創公司月之暗面(Moonshot AI)已大幅擴展支撐其旗艦Kimi大型語言模型的運算基礎設施。據報該部署涉及透過阿里巴巴取得約2萬顆Nvidia AI晶片驅動的運算資源,凸顯推動現代生成式AI發展的龐大運算需求。

該報導在全球科技業引起廣泛關注,因為它凸顯了中國AI公司在美國出口管制限制取得尖端半導體技術的情況下,仍持續積極投資先進運算能力。自2022年以來,美國以國家安全考量為由,實施了多輪出口限制措施,旨在限制中國取得先進AI晶片,包括Nvidia最強大的加速器。

根據科技界流傳的多方報導,相關晶片被指為Nvidia H200圖形處理器(GPU)——這是Nvidia最新AI加速器之一,專為訓練和部署先進人工智慧模型而設計。然而,阿里巴巴已公開否認向月之暗面提供H200驅動的運算服務,使確切的硬體配置仍存在不確定性。考量到H200可能受到美國現有出口管制限制——這些限制促使Nvidia為中國市場開發H20等改良版晶片——阿里巴巴的否認格外引人關注。

此一事態發展引發了關於中國AI基礎設施、雲端運算能力,以及中國科技公司與美國同業競爭格局的重新討論。

此資訊亦獲得Coin Bureau認證X帳號分享的報導支持,該報導引用了月之暗面與阿里巴巴的最新發展。

來源:Coin Bureau on X

月之暗面成為中國AI產業的重要參與者

月之暗面由楊植麟於2023年創立,楊植麟曾任職於卡內基美隆大學及Meta擔任研究員。自推出旗艦聊天機器人Kimi以來,月之暗面迅速崛起為中國成長最快的人工智慧公司之一。該公司獲得了大量創投資金支持,包括來自阿里巴巴本身的投資,據報在2024年初的一輪融資後估值約為25億美元。該AI助手以提供進階推理、文件分析、程式碼支援、多語言對話和生產力功能吸引了數百萬用戶,並特別著重於處理極長的文字輸入。

該公司代表了新一代中國AI開發商——與智譜AI、MiniMax、01.AI和字節跳動等同業並列——致力於在服務快速成長的國內市場的同時,與領先的國際AI平台競爭。

業界專家指出,訓練和運作精密的大型語言模型需要龐大的運算資源。現代AI系統依賴數千個互聯GPU協同運作,以處理海量資料集並持續改善模型效能。隨著對更強大AI助手的需求增加,企業正大力投資運算基礎設施以維持競爭力。

報導指涉約2萬顆Nvidia AI晶片

科技界流傳的報導聲稱,月之暗面正在使用透過阿里巴巴雲端基礎設施驅動的約2萬顆Nvidia AI晶片運算資源。初步報導將硬體識別為Nvidia H200 GPU,這是Nvidia專為AI工作負載設計的最先進處理器之一。

然而,阿里巴巴已公開否認為月之暗面提供H200驅動的運算資源。該公司未透露支援Kimi模型的具體硬體細節,使業界分析師無法獨立核實目前部署的是哪些GPU型號。考量到出口管制的態勢,這些晶片可能是Nvidia的中國合規版本如H20,甚至是中國半導體公司正在開發的國產替代品。

無論確切的硬體配置為何,專家表示涉及數萬個AI加速器的基礎設施代表著與中國AI公司相關的最大規模AI運算部署之一。此類基礎設施需要在網路系統、高速儲存、冷卻技術、電力分配和資料中心營運方面進行大量投資。

為何AI公司需要大規模GPU叢集

圖形處理器已成為現代人工智慧發展的基礎,因為它們能夠同時處理龐大數量的數學運算。與傳統電腦處理器不同,GPU專門針對平行運算進行了最佳化,使其成為訓練神經網路和大型語言模型的理想選擇。

開發如Kimi等AI系統需要使用大量的文字、程式碼、研究論文、書籍、網站和其他數位資訊集合來處理數兆個參數。訓練這些模型可能需要數週甚至數月,同時消耗龐大的運算資源。即使在部署之後,AI聊天機器人仍需要持續的GPU運算能力,才能為全球數百萬用戶生成快速回應。

隨著全球AI採用的加速,對先進AI處理器的需求持續超過可用供應。美國出口管制加劇了中國企業面臨的這種短缺,限制了對Nvidia最強大晶片的取得,並為合規替代品創造了平行市場。

Nvidia持續主導AI硬體市場

Nvidia仍是全球領先的AI加速器供應商,其產品被各大科技公司、研究機構和雲端服務提供商廣泛使用。其最新的AI晶片,包括H100和H200系列,因在記憶體頻寬、處理速度和整體AI效能方面的顯著提升而備受追捧。

生成式AI的爆發性成長已使Nvidia轉變為全球最有價值的科技公司之一。隨著各組織擴大對AI研究、雲端運算、自動駕駛系統、機器人技術、醫療保健、金融科技和科學運算的投資,對其硬體的需求持續上升。為在出口限制下維持中國市場的准入,Nvidia開發了H20等改良版晶片,儘管這些晶片的效能與其旗艦產品相比有所降低。

中國AI投資持續成長

中國已將人工智慧列為戰略性國家優先事項,鼓勵國內企業在從製造業和醫療保健到教育和金融等各行各業加速創新。在發展AI應用的同時,中國也一直在投資國產半導體替代方案,包括華為的昇騰系列AI晶片,以減少對外國技術的依賴。

月之暗面是多家開發先進基礎模型、有能力與全球AI平台競爭的中國公司之一。雲端運算提供商已成為不可或缺的合作夥伴,透過提供可擴展的基礎設施,使新創公司無需從頭建立獨立的資料中心即可取得強大的運算資源。

分析師認為,取得先進運算基礎設施將持續是全球AI產業中最重要的競爭優勢之一,而出口管制最終可能會加速中國推動半導體自主化的進程。

阿里巴巴擴展中的AI策略

阿里巴巴透過其雲端運算部門、企業AI服務、基礎模型和開發者平台,大幅增加了對人工智慧的投資。阿里雲推出了多項AI專用產品,旨在幫助企業跨產業採用生成式AI技術,該公司還開發了自己的大型語言模型系列——通義千問(Qwen)。

儘管該公司否認了為月之暗面提供H200驅動運算資源的報導,阿里巴巴仍透過其雲端基礎設施在中國不斷成長的AI生態系中扮演重要角色。雲端服務提供商變得越來越重要,因為它們允許AI開發者快速擴展運算資源,同時降低基礎設施成本。

全球AI運算能力競爭加劇

月之暗面運算資源的據報擴張反映了更廣泛的全球趨勢。全球各地的科技公司正投資數十億美元於GPU叢集、AI超級電腦、半導體開發和次世代資料中心。作為背景參考,美國主要AI公司如OpenAI、Meta和Google各自組建了相當或更大規模的GPU叢集,而Microsoft和Amazon Web Services也持續擴展其AI專用雲端基礎設施。

人工智慧不再僅由軟體創新驅動。取得先進硬體、雲端基礎設施、工程人才和可靠的半導體供應鏈已變得同樣重要。各國政府和科技公司越來越將AI基礎設施視為能夠影響未來經濟成長和技術領導地位的戰略性國家資產。

展望未來

儘管驅動月之暗面Kimi模型的確切Nvidia硬體仍存在不確定性,但據報的運算資源規模顯示AI發展持續加速的程度。大規模GPU基礎設施已成為企業尋求建立能夠服務數百萬用戶、同時支援日益精密的推理和多模態功能的競爭力AI系統的必要條件。

業界分析師預期,隨著生成式AI需求在全球企業、政府和消費者間擴大,對AI基礎設施的投資將持續成長。無論月之暗面最終使用的是Nvidia H200晶片、中國合規替代品,還是其他先進GPU配置,這項據報的部署都凸顯了在快速演變的人工智慧領域中競爭所需的龐大運算資源。

隨著全球AI競賽加劇,包括月之暗面、阿里巴巴、Nvidia和其他主要科技公司預計將繼續處於全球最重要的技術變革之一的中心。