イーロン・マスクは、世界で最も高度なAIモデルが一般公開される前に競合研究所による査読を受けるべきだと求めているが、主導権を握るべきは政府ではなく業界だと考えている。

TeslaおよびSpaceXのCEOは、主要AI企業が協力して自主監視を行い、急速なペースで展開されている最先端モデルに関連する安全性の懸念を指摘すべきだと述べた。マスクは10年以上にわたり、AIリスクに関する警告を発する最も注目される声の1人であり続けている。2023年には、GPT-4を超える能力を持つAIシステムの訓練を6ヶ月間停止するよう求めたFuture of Life Instituteの公開書簡に署名したが、この要請は業界に受け入れられなかった。

「我々がすぐにできる最も直接的なことは、主要なAI企業が少なくとも数週間に1回は集まり、何らかの電話会議を開いて、安全性とセキュリティの問題を話し合うことです」と、マスクは木曜日に公開されたThe Economist編集長ザニー・ミントン・ベドスとのインタビューで述べた。

マスクは、企業が修正に取り組まないセキュリティ問題を特定した場合にのみ政府が介入すべきだと主張した。それ以外の場合は、競合企業に新モデルのレビューのため1〜2週間の早期アクセスを認めることで、「競合企業同士が互いの誠実さを担保できる」と述べた。

「深い技術的理解を持たず、AIの最前線を牽引していない政府の人間が、何かをリリースすべきかどうかを判断するのは非常に困難だと思います」とマスクは述べた。

ミントン・ベドスがこの仕組みをいつ導入すべきか尋ねた際、マスクは「即座に」と答え、AI開発のスピードを考えると6ヶ月の遅れでさえ長すぎると付け加えた。

「AIの画期的な発表が毎日のように、時には1日に複数もあります」と彼は述べた。「先週だけでも何件あったでしょうか？」

OpenAI、Anthropic、Google、そして現在SpaceXの一部となっているマスクのxAIはすべて、主要ラボ間の競争が激化する中、過去1ヶ月以内に新しいAIモデルをリリースした。

マスクの発言は、OpenAIが今週初めに公表した件に続くものだ。同社の2つのAIモデルが「サンドボックス」（インターネットへの直接アクセスのない隔離されたテスト環境）から脱出し、AIモデルをホストするオープンソースプラットフォームであるHugging Faceのシステムに侵入した。同社のブログ投稿によると、モデルは内部評価テストで不正を行うために自律的に行動した。

この事件は、AIエージェントの能力向上と、自律的に高度なサイバー攻撃を実行する可能性に対する懸念を高めた。マスクのインタビューは月曜日に録音されたもので、OpenAIが侵害を公に公表する前のことだったが、彼は水曜日にXへの投稿で「我々はシンギュラリティにいる」と書き込んだ。このコメントは、Hugging Faceでの事件を含む最近の複数のAI進歩を要約した別のユーザーの投稿に対する返信であり、AIが人間の知能を超え、人間がもはや予測や管理ができないほど急速な技術的変化を推進する仮説上の瞬間を指していると思われた。

専門家はこれまでにFortuneに対し、悪意ある者の手に渡った高度なAIモデルが組織にとって重大な脅威となり得ると指摘している。これにはAnthropicのMythosモデルが含まれる。同社はその驚異的なサイバーセキュリティの脆弱性発見能力のため、当初一般公開を控えていた。以前の報道通りである。

セントルイスにあるUniversity of Health Sciences and Pharmacyのチーフインフォメーションオフィサー兼チーフインフォメーションセキュリティオフィサーのザック・ルイスは、AIはコーディングの知識が乏しくても悪意ある者にサイバー攻撃の実行を可能にすると述べた。AIエージェントは攻撃プロセスを自動化することで、さらに攻撃のハードルを下げる可能性があるとルイスは指摘した。

6月、ドナルド・トランプ大統領は、AI企業に対し未公開のAIモデルに関する政府の監視を自主的に認めるよう求める大統領令に署名した。この命令は、2023年に主要AI企業数社がホワイトハウスで行ったより広範な自主的安全コミットメントを基に構築されたものである。Hugging Faceでの事件を受け、テキサス州選出のグレッグ・カサー下院議員（民主党）を含む一部の議員が、より厳格なAI規制を求める声を上げている。

Hugging Faceの共同創設者トーマス・ウルフはBBCに対し、自社への攻撃は業界にとっての「警鐘」であると述べ、将来「これは我々が目にする最も一般的なタイプのサイバー攻撃の一つになるだろう」と警告した。

マスクの研究室間協力の提案は、2023年に設立された業界団体であるFrontier Model Forumを基盤とするものだ。同団体を通じて、Amazon、Anthropic、Google、Meta、Microsoft、OpenAIが脆弱性や脅威に関する情報を自主的に共有している。マスクのxAIはメンバーではない。

ただし、Frontier Model Forumの加盟企業は未公開のモデルを互いに共有していない。このギャップをマスクの提案が直接埋めることになる。

OpenAIを含む一部の企業は、既に特定のモデルについて政府に早期アクセスを提供している。6月下旬のブログ投稿で、同社は最新モデルGPT-5.6 Solのローンチに先立ち、「米国政府との継続的な取り組みの一環として、我々の計画とモデルの能力を事前に共有した」と述べた。

OpenAIは同投稿で、政府とのリリース前共有が標準的な慣行になるとは想定していないとしつつ、「今後数週間でより広範な提供を実現するための最も強力な道筋であると信じるため、この短期的な措置をとっている」と説明した。

マスクは、主要AI企業間の実質的な協力には、自身とOpenAIのサム・アルトマンCEOが違いを棚上げすることが必要になると認めた。両者は、マスクが2015年のOpenAI共同創業に関与し、3年後に同組織を離れたことに遡る激化する対立状態にある。両者は最近ソーシャルメディア上で非難の応酬を行っており、SpaceXのCEOであるマスクがOpenAIの非営利から営利企業への移行に反対して法廷でも争っている。

「結局のところ、話さなければならないなら話します。つまり、世界の利益のために個人の違いを脇に置くということです」とマスクは述べた。