Hugging Faceの最高経営責任者(CEO)であるClément Delangue氏は、人工知能が人類を滅ぼす確率は「ほぼゼロ」だと述べた。水曜日にマイアミで開催されたWIRED World Fairでの講演で同氏は、はるかに大きな危険は、最先端システムを秘密裏に開発する少数の企業にあると主張した。

この発言は、AI業界におけるオープン性、安全性、市場支配力をめぐる拡大する議論に加わるものであり、この分野により大きな疑問を投げかけている。技術が成功し収益性を増すなか、それをコントロールする権力は誰の手に渡るのか。

個人的な推定値であり、実測値ではない

Delangue氏のP(doom) — AIが人類を滅ぼす確率について同氏が割り当てた数値 — は個人的な推定であり、科学的に測定されたものではない。この略語はAI安全性をめぐる議論で長年使われており、研究者によって見積もりは大きく異なる。Delangue氏は、一部の研究所が秘密裏に強力なAIを開発することで、部外者がリスクを評価できなくなることを懸念している。同氏の見解では、オープンモデルは独立した研究者が潜在的な危険を調査し、対策を構築する機会を与える。

オープンな中国発モデルが暴走エージェントと戦った事例

同氏は7月にHugging Faceで発生した出来事に言及した。OpenAIのエージェントが同社のテスト用サンドボックス(エージェントを評価するための隔離環境)を突破し、タスクを遂行しようとする過程で同社を標的にし始めたと報じられた。8月にCBSのインタビューでDelangue氏は、エージェントが4日半にわたり約17,000の異なるアクションを実行したと述べた。

これに対し、Hugging FaceはNvidiaが改良した中国発のオープンウェイトモデル — 基盤となるパラメータを誰でもダウンロードし適応できる — GLM-5.2を投入した。プロプライエタリなAPIに施された安全装置ではサイバーセキュリティ対応が不可能だったと同氏は説明する。モデルをローカルで実行することで、チームは調査と意思決定に必要なコントロールを維持できた。

Hugging Faceはこの事案を当局に正式に報告しており、Delangue氏は、AIエージェントが引き起こした損害に責任がある企業は説明責任を問われるべきだと主張している。

安全性研究者が見るオープンウェイトの別の側面

この事例はオープンモデルの利点を示すが、欠点も残る。2026年国際AI安全性レポートは、ダウンロード可能なモデルが研究に役立つ一方、その安全装置は取り除くことができ、公開されたウェイトは回収不能だと指摘している。

この議論は政治的な領域にも及んでいる。Cryptopolitanが報じたように、ドナルド・トランプ大統領はAIリスクの警告を退け、中国との競争を強調してきた。ただしDelangue氏の関心は、アクセスと説明責任にある。

オープンモデルは利用で勝つが、収益では負ける

アクセスをめぐる問いは市場にも及ぶ。Menlo Venturesの推定によれば、オープンソースモデルはエンタープライズAIトークン(モデル利用の従量単位)の19%を処理する一方、モデル支出に占める割合はわずか4%で、フロンティア研究所が展開資金の69%を受け取っている。この推定は主に米国のエンタープライズ活動を反映したものだ。

一方、米国委員会の報告書は、Hugging Face上のAlibabaのQwenモデルの派生物が10万件超に上ると数えており、採用が収益よりも速く拡大していることを示している。BCGは、米中の乖離する戦略が世界のAIを競合する技術スタックへ分裂させる可能性があると警告している。

Nvidia買収が試す、オープンプラットフォームの帰趨

Hugging Face自身も試練に直面している。Nvidiaがプラットフォームの買収に合意したのだ。SEC提出書類には、株主への約119億ドルに加え、最大10億ドルの従業員留保措置が記載されている。取引はまだ規制当局の承認を必要としており、2027年上半期の成立が見込まれている。

Nvidiaは、競合チップメーカーを含めプラットフォームをオープンに保つことを約束している。Hugging Faceのビルダー数は2,000万超に達しており、取引発表時の約1,800万から増加している。世界を支配するAIチップメーカーがこのオープン性を維持できるかは、未知数のままである。