Nvidiaと複数の大手テクノロジー企業は、オープンAIモデルのセキュリティ能力向上を目的とした新たな人工知能安全イニシアチブを立ち上げた。

この取り組みは、AIプラットフォームHugging Faceを標的にしたと報じられる不正なOpenAIモデルが関与したサイバー攻撃を受けたものだ。このインシデントの際、Hugging Faceは自社システムを防御するために主要な米国フロンティアモデルに頼ることができなかった。内蔵された安全ガードレールが、悪意ある活動と正当な防御目的のサイバーセキュリティ作業を一貫して区別できなかったためだ。

Hugging Faceは代わりに、同じ制限の対象ではない自己ホスト型の中国製オープンウェイトモデルを使用したと報じられている。オープンウェイトモデルは、元の開発者が提供するホスト型サービスの外部でユーザーが実行・管理できるため、調査時に直接アクセスを必要とするセキュリティチームにとって有用な場合がある。

Nvidia、Open Secure AI Allianceを支援

Nvidiaは、Open Secure AI Allianceがセキュリティ脆弱性を特定、開示、修正するためのオープン技術を開発・共有すると述べた。同社は発表の中で、Hugging Faceのインシデントにより、サイバーセキュリティチームが防御目的でオープンかつフロンティア級のエージェント型AIシステムにアクセスする必要性が示されたとしている:

エージェント型AIシステムは一定の自律性を持って複数段階のタスクを実行できるため、脆弱性の発見、分析、対応といったサイバーセキュリティのワークフローに関係している。一方で、適切な管理なしにモデルが使用された場合、同じ能力は安全上の懸念も生む。

同アライアンスには、Nvidia、Microsoft、SpaceX、Palantirのほか、米国と欧州の数十社のテクノロジー企業が参加している。参加企業は、サイバーセキュリティ研究を支援し、高度な攻撃に対応する組織の能力を高めるオープンAIツールで協力するとみられる。

この取り組みは、テクノロジー業界の中国製オープンウェイトAIモデルへの依存を減らす可能性もある。

米政策当局、中国製AIモデルへの制限を検討

Nvidiaが支援する同アライアンスは、米国の政策当局が中国製AIシステムの利用を制限する措置を検討する中で発足した。

中国のAI企業は、米国の競合企業が開発したより高度なモデルから情報を抽出するために蒸留技術を使ったとの非難を受けている。蒸留とは一般に、別のより強力なシステムの出力や能力を使って一つのモデルを訓練することを指す。

米財務長官Scott Bessentは最近、無許可の蒸留攻撃を行ったとされる中国企業が制裁を受ける可能性があると警告した。関連するXの投稿はこちらで確認できる: https://x.com/SecScottBessent/status/2080008411790368895

専門家は、想定される制限には、米国企業がアプリケーション・プログラミング・インターフェースを通じて中国製AIモデルへのアクセスを購入することの禁止が含まれる可能性があるとみている。その他の措置として、米国のクラウドプロバイダーがこれらのモデルをホストし、顧客に利用料金を請求することを防ぐ可能性もある。こうした規則により、AIツールを必要としながらもコンプライアンス、データ管理、国家安全保障上の要件に直面する企業にとって、信頼できる独立ホスト型の代替手段の重要性が高まることになる。

オープンAIモデルがセキュリティ上の優先課題に

厳格なガードレールはAIモデルが攻撃に使われるのを防ぐ助けになる一方で、正当な防御作業を制限することもある。報じられたHugging Faceのインシデントは、クローズドモデルが攻撃者と防御者の違いを認識せずにサイバーセキュリティ関連の要求を拒否する場合、組織が自らを守るうえで困難に直面する可能性を示している。

新たなアライアンスを通じて、Nvidiaとそのパートナーは、高度なAIセキュリティツールを開発、テストし、より広く共有できるオープンなエコシステムの構築を目指している。この取り組みは、各国政府が中国製モデルへの制限を検討し、企業が独立してホスト・管理できる安全な代替手段を探す中で進められている。