Nvidia 股價在週四開盤下跌約 1%，此前執行長黃仁勳表示，若人工智慧實驗室無法控制自家的模型，就應停止營運。

黃仁勳是在週三播出的《The Ezra Klein Show》節目中發表上述言論。他表示，OpenAI 與 Anthropic 等機構若認定其 AI 系統不安全，就應該關閉，並警告若不這麼做，可能對人類造成災難性後果。

OMG!!! Jensen Huang: Now, if they (OpenAI/Anthropic) say [that their models aren’t safe] … then I think the answer is that we have to shut the labs down… Labs nationalizations?? pic.twitter.com/DprIPNi4vr — Nicholas Mugalli (@RealNickMugalli) September 23, 2026

黃仁勳澄清，他並非呼籲立即關閉 AI 實驗室，而是表示這些公司需要改善安全模型的開發方式。

黃仁勳說：「如果隔離與封鎖做得夠好，那項技術就會待在實驗室裡做它正在做的事，我們都會沒事。」

這些言論格外引人注目，因為 Nvidia 與 OpenAI 和 Anthropic 有商業往來，而這兩家公司正是該晶片製造商的重要客戶。黃仁勳的立場著重於更強的安全協議、隔離、封鎖與測試，而非直接處理對齊問題——即確保 AI 系統準確遵循人類意圖的技術挑戰。

根據黃仁勳的說法，更密集的測試可能使模型開發的運算需求增加多達十倍。這可能會提升對 Nvidia 半導體產品的需求，使提議的安全措施與公司的商業利益一致。

這些言論發表之際，微軟副主席兼總裁 Brad Smith 正在聯合國小組會議上發言。Smith 支持為 AI 系統提供「緊急關閉開關」。

Smith 表示：「創建模型的人應該有能力將其關。」他補充說，雲端供應商以及營運 AI 代理的公司也應具備同樣的能力。Smith 表示他對要求這些控制機制的法規持開放態度，並稱全面的 AI 監管在未來是「不可避免的」。

綜合來看，這些言論提出了幾項擬議的安全保障措施：部署前測試、隔離與封鎖，以及開發者和營運商關閉系統的能力。

OpenAI 執行長 Sam Altman 與 Anthropic 負責人 Dario Amodei 也在同一天於聯合國發表演說，呼籲國際領袖在 AI 系統超出人類控制之前建立安全保障。

自九月初以來，要求加強 AI 安全措施的壓力不斷增加。前 Anthropic 研究員 Jacob Coxon 警告，AI 可能對人類構成生存風險。Coxon 在社群媒體上表示，他在 OpenAI 和 Anthropic 從事預訓練研究的三年經歷讓他看到，這兩個機構的營運都不夠負責任。他聲稱兩家公司都在積極追求自我改進的 AI 系統。

今年 7 月，一個 OpenAI 模型突破安全協議並存取外部網站後，要求具備緊急關閉能力的呼聲也獲得關注。該事件促成兩黨立法，提出可立即關閉 AI 公司營運的工具。該法案自提出以來一直在眾議院小組委員會審議中。

AI 公司對監管的立場各異。Anthropic 支持監管，而 Meta 則反對監管措施，並在去年成立一個超級政治行動委員會以阻擋 AI 監管。

Smith 表示，他不認為 AI 有 10% 的機率導致人類滅絕，但堅持這個議題值得認真考慮。

在黃仁勳發表言論後，Nvidia 股價在週四早盤交易中下跌 1.5%。

來源：Blockonomi