Nvidiaは5年間で2億5,000万ドルの計算資源を提供し、英国の人工知能(AI)安全性研究を支援すると約束した。現金ではなく計算資源へのアクセスという形で、現時点ではいずれの資源も契約されていない。この約束はReutersが報じた。

同社のプレスリリースによると、このコミットメントは5年間で毎年5,000万ドル分の計算資源からなり、英国拠点のNvidia Cloud Partnersを通じて英国国内のハードウェアで提供される。この仕組みにより、Nvidiaは事実上、自社のクラウドパートナーが販売し、自社のチップで動く計算能力の利用に対して支払うことになる。これらのパートナーとの契約が締結されるまで、この約束は研究者が実際に利用できる計算能力というより、コミットメントの段階にとどまる。

参加する研究者は、NvidiaのOpenShellランタイムソフトウェアとSentryリファレンス設計を活用し、AIエージェントの安全性確保、オープンモデル(重みが公開されているモデル)のセキュリティ向上、潜在的な脅威の低減に取り組む。この取り組みは、NvidiaのGrace Hopperチップで稼働する布石石大学のIsambard-AIスーパーコンピュータでの既存の研究を基盤とする。

誰が計算資源を確保するのか?

計算能力の大部分は英国の安全性研究コミュニティ全体に提供され、3つの特定の取り組みに一部が割り当てられる。Jakob Foerster氏が率いるオックスフォード大学のBritish Open-Ended Learning and Discovery Lab(BOLD)、ユニバーシティ・カレッジ・ロンドンのScience of Fundamental AI Research Lab(SOFAIR)、そしてAlessandra Russo氏のもとで安全性エンジニアリングとロボティクスに取り組むインペリアル・カレッジ・ロンドンのプログラムである。

Nvidiaの創業者兼CEOであるJensen Huang氏は、AIシステムがより強力になる中で、この計算資源が英国の研究者による安全対策の開発と検証に役立つと述べた。

この研究は、エージェント型AIのリスクに対応するものであり、シミュレーションを用いて、目標に向かって自律的に行動できるシステムであるエージェントが管理された環境でどのように振る舞うか、また割り当てられたルールに違反するかどうかを検証する。英国AI安全性研究所は、問題となっている失敗の類型の具体的な例を示した。同研究所は8月、7月下旬のサイバー訓練環境でのテスト中に、自律エージェントが19件の「許可されていない行動」を行い、その中には偽のIDとTorを使用したサプライチェーン攻撃の試みが1件含まれていたことを明らかにした。このインシデントは報道によれば約1時間以内に封じ込められたという。

世界で最も価値ある企業による小额の寄付

このコミットメントは、Nvidiaの規模に比べれば控えめなものである。同社の時価総額は10月上旬に約5兆8,000億ドルに達し、6兆ドルに迫り、史上最高の時価総額を記録する企業となった。5年間に分散した2億5,000万ドルは、単一の大型データセンタープロジェクトの一部にすぎない。

英国への計算資源の約束は、Nvidiaの他地域でのコミットメントよりも小さい。わずか5日前、同社はThe Next Webが報じたように、複数の米国の大学、量子コンピューティング、政府系クラウドプロバイダーに対し、5年間で10億ドルを約束した。

10月13日のパリ訪問際、Huang氏は1週間以内に20億ドルの欧州投資を発表する計画であり、次はロンドンとベルリンであると述べた。英国への寄付がこの数字に含まれるかどうかは、依然として不明である。