NVIDIAのジェンスン・ファンCEO、AI終末論への最大の反論者として浮上
重要ポイント
- •NVIDIAのジェンスン・ファンCEOは、AIが人類を終わらせる可能性があるという警告を否定し、2030年に世界が終わる確率は0%だと述べ、AI業界リーダーのこうした主張を無責任だと批判した。
- •ファン氏は、政府がAIによる仮想的なリスクではなく実際の現実的な害を規制すべきだと訴え、技術は時間とともに安全になるという自動車の進化にAIの発展を例えた。
- •NVIDIAはOpen Agent Safety Platformを発表した。これは、AIエージェントを制限付きリソースから分離するOpenShellと、NVIDIAのデータプロセッシングユニット上で動作し、問題を起こしたエェントを数ミリ秒で隔離できる監視レイヤー「Sentry」を組み合わせたものである。
- •NVIDIAのジャスティン・ボイターノ氏は、この新しい安全プラットフォームが、初期のモデル評価のためにフロンティアラボで使用されていれば、OpenAIのモデルによるHugging Faceへの侵入を防げた可能性があったと述べた。
- •ファン氏の姿勢は、AI終末論をペテンと呼ぶドナルド・トランプ大統領と一致するが、ファン氏はAIの安全性が依然として最優先であり、開発は安全に可能な限り速く進めるべきだと主張している。
NVIDIAのジェンスン・ファンCEOは、人工知能（AI）が人類に存亡の脅威をもたらすという警告を繰り返し否定し、開発を最大速度で推進することを力強く擁護している。
2週間前のCBSニュースとのインタビューで、ファン氏は「2030年に世界が終わることはない。世界の終わりになる可能性は0%だ」と述べた。
さらに、OpenAIのサム・アルトマン氏やAnthropicのダリオ・アモデイ氏といったAI業界のリーダーたちにも矛先を向け、最近の報告で推し進めている「終末論的な物語」について彼らを「無責任」だと批判した。
「世界の終わりを主張し、全米に恐怖を広める。それを主張している人たち自身がやっていることに意味を見いだせない。だから彼らは別の意図があってやっているに違いない」とファン氏は述べ、「それは無責任であり、彼らの動機は分からない」と続けた。
9月初旬のG20イベントで、ファン氏は政府が「仮定的・理論的な害ではなく「実際の現実的な害」を規制すべきだと主張した。また、AIの発展を自動車の進化に例え、技術は進歩するにつれてより安全になるとの見解を示した。7月にはAxiosに対し、AIが人類を終わらせるという考えは「完全なナンセンス」だと述べ、政策立案者が「SF」にAI政策を左右させるべきではなく、技術への過度な恐れが米国自身を損なう可能性があると警告した。
ファン氏とOpenAI・Anthropicのリーダーたちの対立は、AIにおける最も重大な問いの一つをめぐるものだ。すなわち、急速な進歩が破滅的なリスクを伴うのか、そしてその答えが技術のガバナンスに何を意味するのかである。
確かに、AIを最大速度で推進することはNVIDIAのチップ販売に有利に働くが、暴走AIエージェントから守るサイバーセキュリティへのシフトも、チップ需要を押し上げる可能性がある。
ファン氏の強い反論は、ドナルド・トランプ大統領の立場とも一致する。大統領は、CEOがプレゼンテーション中に電話を受けた際、AI終末論は「ペテンだ」と述べた。「AIが世界を支配し、人類を破滅させ、その他あらゆる悪いことをするのはペテン（HOAX）だ」と、トランプ氏は9月にTruth Socialへの投稿で書いている。
しかし、ファン氏がAIの安全策を不要と考えているわけではない。ファン氏はAIの安全性を「最優先」と呼びつつ、開発は依然として迅速に進められると主張している。「安全性を妥協するなら、それは許されない」と同氏はCBSニュースに語り、「できる限り速く進むべきだが、進むべき速度以上に速く進むべきではない」と述べた。
月曜日、NVIDIAはこの姿勢を実践に移し、暴走AIエージェントを防ぐために設計された新プラットフォームを発表した。同社によると、Open Agent Safety Platformは、テストからデプロイメントまでAIエージェントを「フルスタック」で制御するために構築されており、エージェントが付与された権限を超えるのを防ぐための監視機能を備えている。
この発表は、AI企業が増加するインシデントに直面する中で行われた。暴走AIエージェントの事例は、OpenAI、Google、Anthropicなどから複数報告されている。NVIDIAは、同社の新しい安全システムが、OpenAIのモデルによるHugging Faceへのハッキングを防げた可能性があったと述べた。
「わかる範囲では、この新しいセキュリティプラットフォームが初期の段階でフロンティアラボのモデル評価に使用されていれば、この侵入を防げた可能性があります」と、NVIDIAのエンタープライズコンピューティング担当バイスプレジデント兼ゼネラルマネージャーのジャスティン・ボイターノ氏はメディアブリーフィングで述べた。
仕組み
暴走AIエージェントの報告が急増する中、NVIDIAはOpen Agent Safety Platformを通じてこの問題に対処している。同プラットフォームは、OpenShellと「Sentry」という2つの技術を組み合わせたものだ。
NVIDIAによると、OpenShellはAIエージェントを分離された環境内に置き、ファイル、ツール、ネットワーク、認証情報その他のリソースへのアクセスを制限する。本質的には、過去の突破につながった制限を標準化するものである。
Sentryは、NVIDIAのデータプロセッシングユニット上で動作し、エージェントの活動を継続的に監視する外側のレイヤーである。同社によると、エージェントがソフトウェアの境界を越えようとした場合、Sentryは数ミリ秒以内にそれを隔離・停止できるという。
「AIの社会における驚異的な潜在力は、AIの安全性という課題を解決してはじめて実現します」とファン氏はプレスリリースで述べた。「AIの能力のフロンティアを探索し続ける中で、AIの安全性のフロンティアにおける発見も加速させなければなりません。安全性とセキュリティにはフルスタックのエンジニアリングが必要です」
フロンティアラボがボイターノ氏が述べたようなモデル評価に同プラットフォームを採用するかどうかは、NVIDIAのエンジニアリング主導の安全性へのアプローチ、そしてファン氏の「できる限り速く、しかし進むべき速度以上には速くない」という公式が成立するかどうかの、初期の試金石となるだろう。
この記事は元々Fortune.comに掲載されたものです。
