輝達（Nvidia）執行長黃仁勳多次駁斥人工智慧對人類構成生存威脅的警告，並堅定地主張應全速推進AI開發。

黃仁勳兩週前接受CBS News專訪時表示：「2030年不會是世界末日。世界末日的機率是0%。」

他也將矛頭指向其他AI領袖，包括OpenAI的Sam Altman與Anthropic的Dario Amodei，批評他們在近期報告中推動「末日敘事」的行為「不負責任」。

黃仁勳說：「我認為，宣稱世界末日、在全美煽動恐懼，而且是由這些人來做，對我來說毫無道理，所以他們這麼做一定另有目的。」「這是不負責任的，我不知道他們的動機是什麼。」

在9月初的一場G20活動上，黃仁勳主張政府應規範「實際且務實的危害」，而非「假設性、理論性的危害」。他將AI的發展比喻為汽車的演進，暗示這項技術會隨著進步而變得更安全。今年7月，他接受Axios訪問時表示，AI將終結人類的說法是「徹底的胡說八道」，並補充決策者不應讓「科幻小說」主導AI政策，還警告美國若對這項技術過度恐懼，可能反受其害。

黃仁勳與OpenAI及Anthropic領導層之間的摩擦，聚焦於AI領域最關鍵的問題之一：快速進展是否帶來災難性風險，以及這個答案對該技術應如何治理意味著什麼。

誠然，讓AI全速發展有助於輝達銷售更多晶片，不過轉向網路安全以防範失控AI代理，同樣也會推升晶片需求。

黃仁勳的硬反擊與川普總統的立場一致。川普曾在這位執行長進行簡報中途致電，表示AI末日論是「一場騙局」。「AI接管世界、毀滅人類以及所有其他壞事，都是一場騙局（HOAX），」川普在9月一則Truth Social貼文中寫道。

這並不代表黃仁勳認為AI防護措施不必要。他曾稱AI安全「至關重要」，同時堅持開發仍可快速推進。「如果我們在安全上妥協，那是絕對不行的，」他告訴CBS News。「我們應該盡可能地快，但不能超過應有的速度。」

週一，輝達將這一立場付諸實踐，推出一個旨在防止AI代理失控的新平台。該公司表示，其Open Agent Safety Platform旨在為AI代理提供從測試到部署的「全堆疊」控制，並具備監控能力，以防止代理超出其被賦予的權限。

此次推出之際，AI公司正面臨日益增多的事故。已有多起失控AI代理的案例被通報，包括來自OpenAI、Google與Anthropic。輝達表示，其新安全系統原本可以阻止OpenAI模型對Hugging Face的入侵。

「據我們所知，如果這個新安全平台早期就被前沿實驗室用於模型評估，原本可以阻止這次入侵事件，」輝達企業運算副總裁暨總經理Justin Boitano在一場媒體簡報會上表示。

運作方式

面對失控AI代理報告的湧現，輝達正透過其Open Agent Safety Platform來解決這個問題，該平台結合了兩項技術：OpenShell與「Sentry」。

根據輝達的說法，OpenShell將AI代理置於隔離環境中，限制其對檔案、工具、網路、憑證及其他資源的存取——本質上是將過去導致突破限制事件的防護措施標準化。

Sentry是一層外部防護，運行於輝達的資料處理器上，持續監控代理活動。該公司表示，如果代理試圖越出其軟體邊界，Sentry可以在數毫內將其隔離並阻止。

「AI對社會的非凡潛力，只有在解決AI安全問題後才能真正實現，」黃仁勳在新聞稿中表示。「在我們持續探索AI能力前沿的同時，我們必須加快探索AI安全的前沿。安全與防護需要全堆疊工程。」

前沿實驗室是否會在Boitano所描述的模型評估中採用該平台，將是對輝達以工程為本的安全解方，以及黃仁勳「盡可能地快，但不能超過應有的速度」原則能否成立的初步考驗。

本文最初發表於Fortune.com。