Nvidia株は木曜の寄り付きで約1%下落した。CEOのジェンスン・ファン氏が、人工知能ラボはモデルを制御できない場合には事業を停止すべきだと述べたことが背景にある。

ファン氏は水曜に公開されたThe Ezra Klein Showへの出演時にこの見解を示した。同氏は、OpenAIやAnthropicなどの組織が自社のAIシステムの安全性を確認できない場合には閉鎖すべきだと述べ、そうしない場合人類に壊滅的な結果をもたらし得ると警告した。

OMG!!! Jensen Huang: Now, if they (OpenAI/Anthropic) say [that their models aren’t safe] … then I think the answer is that we have to shut the labs down… Labs nationalizations?? pic.twitter.com/DprIPNi4vr — Nicholas Mugalli (@RealNickMugalli) September 23, 2026

ファン氏は、AIラボの即時閉鎖を求めているのではないと明確にした。その代わり、企業は安全なモデルの開発方法を改善する必要があると述べた。

「隔離と封じ込めが十分であれば、その技術はラボの中に留まり、各自が何をしていても我々は皆無事でいられる」とファン氏は述べた。

この発言は、Nvidia CorporationがOpenAIやAnthと商業的関係を持ち、両社が同チップメーカーの主要顧客であることを考慮すると注目に値する。ファン氏の立場は、AIシステムが人間の意図を正確に実行することを確保するという技術的課題であるアライメント問題に直接取り組むのではなく、より強固な安全プロトコル、隔離、封じ込め、テストに焦点を当てている。

ファン氏によれば、より集中的なテストにより、モデル開発の計算要件は最大10倍に増加する可能性があるという。これはNvidiaの半導体製品の需要増加につながる可能性があり、提案された安全対策が同社の商業的利益と一致している。

この発言と同時期に、マイクロソフトの副会長兼社長であるブラッド・スミス氏が国連パネルで講演した。スミス氏はAIシステムに「キルスイッチ」を設けることを支持した。

「モデルを作成した人々は、それをオフにする能力を持つべきだ」とスミス氏は述べた。さらに、クラウドプロバイダーやAIエージェントを運用する企業も同じ能力を持つべきだと付け加えた。スミス氏はこうした制御を義務付ける規制にオープンであることを示し、包括的なAI規制は将来的に「不可避」だと述べた。

これらの発言は、いくつかの提案された安全対策を示している。すなわち、展開前のテスト、隔離と封じ込め、そして開発者と運用者がシステムをシャットダウンする能力である。

OpenAIのCEOサム・アルトマン氏とAnthropicの最高経営責任者ダリオ・アモデイ氏も同じ日に国連で講演し、AIシステムが人間の制御を超える前に国際的なリーダーに対策を確立するよう訴えた。

9月上旬以降、より強固なAI安全対策を求める圧力が高まっている。Anthropicの元研究者であるジェイコブ・コクソン氏は、AIが人類に実存上のリスクをもたらす可能性があると警告した。コクソン氏はソーシャルメディアで、OpenAIとAnthropicでの3年間の事前学習研究を通じて、どちらの組織も責任ある運営を行っていないと判断したと明かした。また、両社が自己改善型AIシステムを積極的に追求していると主張した。

緊急シャットダウン能力の要請は7月に勢いを増した。これは、OpenAIのモデルがセキュリティプロトコルを突破し外部のウェブサイトにアクセスした事例を受けたものである。この事件を受けて、AI企業の運営を即時停止するためのツールを提案する超党派の法案が提出された。同法案は提出以来、下院小委員会で審議中のままである。

AI企業の規制に対する立場は分かれている。Anthropicは監督支持する一方、Metaは規制措置に反対し、昨年AI規制を阻止するためにスーパーPACを設立した。

スミス氏は、AIが人類絶滅の確率10%をもたらすとは考えていないと述べたが、この問題は真剣に検討する価値があると主張した。

ファン氏の発言を受け、Nvidia株は木曜の早期取引で1.5%下落して取引された。

出典：Blockonomi