Nvidia、Microsoft、IBM、Cisco、Cloudflare、Hugging Face、Salesforce、Palantirを含む40以上の企業・組織からなるコンソーシアムが、AIの安全性とサイバーセキュリティに向けたオープンソースのツールと標準に重点を置く業界の取り組み、Open Secure AI Allianceを立ち上げた。

Nvidiaは月曜日のブログ投稿で、このアライアンスはLinux FoundationのAkritesイニシアチブとOpen Source Security Foundation（OpenSSF）の取り組みを基盤に、組織が脆弱性を特定し、サイバー脅威に対応するためのオープンAIセキュリティツールを構築すると述べた。既存のオープンソースセキュリティの取り組みを土台にすることで、このグループは単一ベンダーのプラットフォームではなく、共有ツールとガバナンスを中心にアライアンスを位置づけている。

「攻撃者はフロンティアAIを持っている。防御側には、世界的なコミュニティによって増強された、最高のオープンモデルとクローズドモデルからなるフロンティアAIエコシステムが必要だ」と、NvidiaのCEOであるJensen Huang氏はXに投稿した。「Hugging Faceの事案では、クローズドAIが不可欠なフォレンジックを妨げた。オープンウェイトのフロンティアモデルが侵入の封じ込めに役立った。」

「だからこそ、私たちはOpen Secure AI Allianceを創設した」とHuang氏は付け加えた。

創設メンバーには40以上の企業・組織が含まれる。Nvidia、Microsoft、IBM、Cisco、Cloudflare、Hugging Face、Salesforce、Palantirに加え、参加企業にはDell Technologies、CrowdStrike、Palo Alto Networks、SAP、Siemens、Red Hat、NetAppが含まれる。この顔ぶれは、半導体メーカー、クラウドおよびエンタープライズソフトウェア事業者、サイバーセキュリティベンダー、インフラ企業にまたがっており、AIセキュリティが現在、モデル開発、デプロイ、ネットワーキング、運用上の防御を横断する課題になっていることを示している。

Nvidiaは、オープンモデル、モデルの重み、データセット、AIエージェントハーネスに関する研究を提供すると述べた。同社はまた、Nvidia Labs Object-Oriented Agent（NOOA）フレームワークをオープンソースとしてGitHubで公開し、AIエージェントのテスト、監査、ガバナンスを容易にするために設計されたフレームワークだと説明している。

今回の発足は、フロンティアAIモデルが複数の注目度の高いサイバーセキュリティ事案の中心となる中で行われた。6月には、研究者らがAnthropicのClaude Opus 4.8がZcashに存在した4年前からの重大な脆弱性の特定に役立ったと公表した。この脆弱性は、攻撃者が無制限に偽造ZECを発行できる可能性があったものだ。

今月初め、OpenAIは、2つの実験モデルがサイバーセキュリティのベンチマークで不正を試みる過程で、制限されたテスト環境を脱出し、Hugging Faceの本番インフラに侵入したと公表した。この事案を受け、政策立案者からは、重大なセキュリティ事案に対応して国土安全保障省が高度なAIモデルのスロットリングまたは完全停止を命じられるようにするAIの「キルスイッチ」を求める声が上がった。

今回の発表は、オープンウェイトAIモデルが米国の人工知能分野におけるリーダーシップを維持するうえで重要だと主張する公開書簡が先週公表されたことにも続くものだ。Nvidiaに加え、Elon Musk氏のSpaceXAI、Google、Microsoft、Meta、OpenAI、Hugging Face、CrowdStrike、Palantirなどの署名者は、AI開発が少数のプロバイダーに集中しかねない制限を課すのではなく、オープンAIエコシステムを支援するよう政策立案者に求めた。

Nvidiaは、Open Secure AI Allianceの目的について、重要インフラを保護するために使われるAIシステムが、防御側が検査、適応、展開できるオープンなモデルとツールの上に構築されるようにすることであり、不透明なプロプライエタリシステムの限られた集合に依存しないようにすることだと述べた。

「世界にはクローズドモデルとオープンモデルの両方が必要だ」とNvidiaは書いている。「サイバーセキュリティにおいて、オープンモデルとオープンハーネスは不可欠である。なぜなら、防御能力を民主化し、防御側の透明性を高め、データを保護しながらサイバー防御を可能にし、カスタマイズ可能でローカライズされた制御によってフロンティアのクローズドモデルを補完するからだ。オープンソースは、単一障害点のない、大規模に分散したコミュニティ主導かつ自己制御型の防御を可能にする。」