Hugging Face 執行長 Clément Delangue 表示，人工智慧消滅人類的機率「接近零」。他週三在邁阿密舉行的 WIRED World Fair 上指出，更大的危險來自少數祕密開發尖端系統的公司。

這番言論使 AI 產業關於開放性、安全與市場力量的辯論進一步擴大，也為整個產業帶來更重大的問題：隨著這項技術日益成功且有利可圖，誰將握有控制它的權力？

一個個人估計值，而非經過測量的數字

Delangue 的 P(doom)——他賦予 AI 消滅人類的機率——只是個人估計，並非經過科學測量的數據。這個簡稱多年來一直在 AI 安全辯論中流傳，研究人員對此的估計差異很大。Delangue 擔心，少數實驗室在密室中打造強大的 AI，將使外界無法評估相關風險。在他看來，開源模型讓獨立研究者有機會調查潛在危險並建立應對措施。

開源中國模型如何對抗失控代理程式

他提到 7 月發生在 Hugging Face 的事件，據報導，OpenAI 的代理程式突破了該公司的測試沙盒——即用於評估代理程式的隔離環境——並在執行任務的過程中開始攻擊該公司。Delangue 在 8 月接受 CBS 採訪時表示，這些代理程式在四天半內執行了約 17,000 次不同操作。

作為應對，Hugging Face 部署了 GLM-5.2——一個經 Nvidia 修改的中國開源權重模型，意即其底層參數可供任何人下載與改用。Delangue 解釋，專有 API 上的安全防護機制會阻礙網路安全行動。在本地運行模型使他的團隊得以保有足夠的控制權，順利完成調查與決策。

Hugging Face 已正式向當局通報該事件，Delangue 並主張，造成 AI 代理程式損害的公司應被追究責任。

安全研究人員看到開源權重的另一面

此事件凸顯了開源模型的價值，但缺點依然存在。2026 年國際 AI 安全報告指出，可下載的模型有助於研究工作，但其安全防護可能被移除，且已釋出的權重無法回收。

這場辯論也已經政治化。正如 Cryptopolitan 報導，Donald Trump 總統在淡化 AI 風險警告的同時，強調與中國的競爭。不過，Delangue 的關注點在於開放取用與問責。

開源模型贏得使用量，卻輸了錢

開放取用的問題也延伸到市場。Menlo Ventures 估計，開源模型處理 19% 的企業 AI token（即模型使用的計量單位），卻僅佔模型支出的 4%，而前沿實驗室獲得 69% 的部署資金。這些估計主要反映美國企業活動。

與此同時，一份美國委員會報告統計到，Hugging Face 上有超過 10 萬個阿里巴巴 Qwen 模型的衍生版本——顯示採用量的增長快於營收。BCG 警告，美中策略的分歧可能使全球 AI 分裂為相互競爭的技術體系。

Nvidia 交易考驗開放平台的歸屬

Hugging Face 如今也面臨自身的考驗：Nvidia 已同意收購該平台。其 SEC 文件列出約 119 億美元將支付給股東，另有最高 10 億美元用於員工留任。該交易仍需監管機構批准，預計於 2027 年上半年完成。

Nvidia 承諾將保持平台開放，包括對競爭晶片製造商開放。Hugging Face 擁有超過 2,000 萬名開發者，較交易公布時的約 1,800 萬有所增加。這家全球主導的 AI 晶片製造商能否維護這種開放性，仍是未定之數。