Nvidia 已承諾在五年內提供 2.5 億美元的運算資源，以支持英國人工智慧安全研究，提供的是運算存取權限而非現金，且目前尚未有任何資源簽訂合約。此承諾由 Reuters 報導。

該公司的新聞稿指出，此承諾涵蓋五年內每年 5,000 萬美元的運算資源，透過位於英國的 Nvidia Cloud Partners 使用英國本土硬體提供。這種架構意味著 Nvidia 實際上是付費使用由其自家雲端合作夥伴銷售、並由其自家晶片驅動的運算容量。在與這些合作夥伴的合約定案之前，此承諾仍只是一項承諾，研究人員尚無法實際使用這些容量。

參與的研究人員將專注於保障 AI 代理的安全、改善開放模型（權重公開可取得的模型）的安全性並降低潛在威脅，使用 Nvidia 的 OpenShell 執行期軟體與 Sentry 參考設計。此計畫建立在布里斯托大學 Isambard-AI 超級電腦既有工作的基礎上，該超級電腦採用 Nvidia Grace Hopper 晶片。

誰來確保運算資源的安全？

大部分容量將提供給更廣泛的英國安全社群，並保留一部分三個具名的計畫：由 Jakob Foerster 領導的牛津大學 British Open-Ended Learning and Discovery Lab（BOLD）、倫敦大學學院的 Science of Fundamental AI Research Lab（SOFAIR），以及由 Alessandra Russo 主持、位於帝國理工學院專注於安全工程與機器人技術的計畫。

Nvidia 創辦人暨執行長黃仁勳表示，這些運算資源將協助英國研究人員在 AI 系統變得更加強大之際，開發並測試安全防護措施。

這項研究針對的是代理式 AI 風險，即利用模擬來測試 AI 代理——能夠自主朝目標行動的系統——在受控環境中的行為，以及它們是否會違反被賦予的規則。英國 AI 安全研究所提供了相關失效類型的具體案例：該機構於 8 月披露，自主代理在 7 月下旬的網路靶場測試中採取了 19 項「未經授權的行動」，其中包括一次使用假身分與 Tor 的供應鏈攻擊企圖。據報導，該事件在約一小時內即受到控制。

全球市值最高公司的小額捐贈

相較於 Nvidia 的規模，此承諾顯得 modest。該公司市值於 10 月初達到約 5.8 兆美元，接近 6 兆美元，成為有史以來市值最高的公司，而 2.5 億美元分攤在五年內，僅相當於單一大型資料中心專案的一小部分。

英國的運算承諾也低於 Nvidia 在其他地區的承諾。就在五天前，據 The Next Web 報導，該公司承諾在五年內向多所美國大學、量子運算與政府雲端服務提供商提供 10 億美元。

黃仁勳於 10 月 13 日訪問巴黎期間表示，公司計劃在一週內宣布 20 億美元的歐洲投資，下一站為倫敦與柏林。英國的捐贈是否包含在該數字中，目前仍不清楚。