Las Vegasで年次Black Hatカンファレンスが開幕するなか、Open Secure AI Alliance — 現在は120以上の組織で構成される — は、エージェント型AIシステムのサイバーセキュリティ強化を目的とした新たなガイドラインとオープンソース技術を前進させています。エージェント型AIシステムとは、目標を自律的に追求し、ツールを選択して利用し、外部アプリケーションやデータとやり取りできるAIシステムです。

Linux Foundationは、Shared AI Findings Exchange（SAFE）に関するRequest for Commentsを公開しました。これは、エージェント型サイバーセキュリティインシデントを、広範なエコシステムにとって共有可能な防御インテリジェンスへと変換することを目的とした提案フレームワークです。SAFEガイドラインはOpen Secure AI Allianceのワーキンググループによって策定されており、NVIDIA、Cisco、CrowdStrike、Hugging Face、Red HatがLinux Foundationとともに初期提案に取り組んでいます。この取り組みは、半導体メーカー、クラウド事業者、サイバーセキュリティ企業、AIプラットフォーム企業といった直接の競合企業を共通フレームワークの下で結びつけ、エージェント型AIの導入が試験段階から本番環境へ移行するなかで共通の防御実践を確立する必要性の高まりを反映しています。

SAFEガイドラインでは、AIインシデントとヒヤリハットを機密性を保って収集・分析し、影響を受けた当事者に通知し、繰り返し発生する制御の失敗を特定し、システム的リスクを低減するための実証に基づく運用推奨を公表することが提案されています。

背景には、課題の増大があります。主要な技術転換のたびに新たな攻撃対象領域が生まれ、防御側はインフラと知的財産を守るために、アライアンスが表現する「agent speed」で動く必要があります。信頼できるエコシステム内で脅威インテリジェンスをオープンに共有することは、集団防御の増幅器として位置づけられています。

Open Secure AI AllianceがAIサイバーセキュリティ向けツール群を拡充

SAFEフレームワークは、Open Secure AI Allianceのメンバーによる技術貢献の拡大を補完します。メンバーは、アイデンティティ制御やハーネスから、ガードレール、ログ、評価システムに至るまで、AIセキュリティスタック全体にわたって、オープンで検証可能なツールを構築・共有しています。オープンソースを重視する姿勢は、コミュニティが独立に検査・監査・改善できるセキュリティツールこそが、自律的に動作するシステムへの信頼構築に適しているという、アライアンスの中核的な考え方を反映しています。

NVIDIAのオープンなサイバーセキュリティソフトウェアとモデル

NVIDIAの貢献はスタック全体に及びます。GitHubで公開されているNVIDIA Labs Object-Oriented Agent（NOOA）研究ハーネスは、エージェントの挙動をテスト、追跡、監査、統制しやすくするよう設計されています。NVIDIAのOpenShellランタイムは、エージェントがアクセス・実行できる範囲を制限し、エージェントレベルでセキュリティとプライバシーの制御を適用します。

NVIDIAのオープンモデルファミリー — エージェント型AI向けのNemotron、物理AI向けのCosmos、ロボティクス向けのIsaac GR00T、医療・ライフサイエンス向けのBioNeMo、そして商用利用向けライセンスを持つ自動運転車向け世界最大規模のモデルとされるAlpamayo — は、オープンな重み、データセット、学習手法とともに提供されています。

NVIDIAのオープンソースverified agent skillsは、ガバナンスを能力層へ拡張します。各スキルには移植可能な指示セットが含まれ、カタログ化され、プロンプトインジェクションやツールポイズニングなどのリスクについてスキャンされ、暗号学的に署名され、skill cardで文書化されます。これにより、防御側はそのスキルが何を行い、どこから来たのか、公開後に改変されたかどうかを正確に確認できます。

NeMo Guardrails、NeMo Anonymizer、NeMo Safe Synthesizerは、安全ポリシーの適用、機密データの保護、プライバシー保護された合成データの生成を支援します。また、NVIDIAのオープンソースLLM脆弱性スキャナーGarakは、セキュリティチームがデータ漏えい、プロンプトインジェクション、脱獄シナリオをデプロイ前に検査するのを可能にします。

アイデンティティと権限 — 誰が実行できるのか

エージェントのアイデンティティ保護は、より広いセキュリティスタックの基盤です。

Oktaは、エージェントのアイデンティティとアクセスのための参照実装を開発しており、オープンプロトコルであるCross App Access (XAA)が、OpenShellのサンドボックス環境で動作するAIエージェントをどのようにして企業アプリケーションへ安全に接続できるかを示しています。

Palo Alto Networksは、次世代アイデンティティセキュリティプラットフォームIdiraからのオープンソースツールとして、Agent GuardとAgent Watchを提供しました。これらのツールは、開発者やエージェント構築者が、エージェント型ワークフロー向けのシークレットを安全に取得するなど、アイデンティティセキュリティのベストプラクティスと保護策を適用するのに役立ちます。

Red Hatが設立した新しいオープンソースプロジェクトasagoは、NIST、OWASP、EU AI Actなどの枠組みに言及しつつ、組織固有のガバナンス要件をランタイム時のエージェント権限へ直接マッピングし、ポリシー条項からライブ制御まで単一の監査証跡を維持します。世界各国の規制当局がAIガバナンス要件を強化するなか、ポリシー要件を実行可能な技術制御へ変換するツールは、コンプライアンスを示そうとする組織にとってますます重要になっています。

ハーネスとツール — セキュリティ作業のオーケストレーション

AIエージェントは、オープンおよびクローズドのモデル、ハーネス、ツール、ランタイムからなるエコシステム内で動作します。モデルがエージェントの脳だとすれば、ハーネスはツールを使って行動する身体であり、エージェントの配備、調整、制約の方法をオーケストレーションします。

Open Secure AI Allianceの新規メンバーのひとつであるAmazonは、Strands Agentsを提供しています。これは、あらゆる層でオープンなAIエージェント構築向けオープンソースツールキットで、開発者にエージェントの挙動への完全な可視性と、本番環境でエージェント型システムを評価する能力を与えます。Amazonはまた、AIエージェントに許可される動作に対して決定論的で検証可能な境界を適用するオープンソースの認可言語Cedarも提供しています。

Capital Oneは、エージェント型AIのコードセキュリティ向けにVulnHunterをオープンソース化しました。Cloudflareは、エージェントシステムにセキュリティを追加するオープンソーススキルとしてVulnerability Discovery Harnessを提供しています。

Microsoft AI Red Teamは、いくつかのツールとハーネスをオープンソース化しました。PyRIT — Python Risk Identification toolkit — は、組み込みメモリを備えた自動レッドチーミングを可能にし、一般的な対象やカスタムエンドポイントをサポートします。RAMPART and Clarityは、レッドチームの発見事項や実際のインシデントを反復可能なテストへ変換し、コードを書く前に設計上の仮定を検証することを助けます。Microsoftはまた、自然言語の要件と期待されるAIの安全・セキュリティ動作を実行可能な評価へ変換するAssertもオープンソース化しました。

AtlasはWizによる自律型脆弱性調査エンジンで、専門化されたAIエージェントをオーケストレーションし、コードやオープンソースパッケージにまたがるセキュリティ上の欠陥を発見・検証します。

Open Secure AI Allianceに加わったVisaも、問題の特定、修復、検証を支援するために、オープンソース化したVisa Vulnerability Agentic Harnessを提供しています。

モデル — AIの安全と防御のために設計された知能

すべてのセキュリティや安全タスクに汎用モデルが必要なわけではありません。特化型のセキュリティ・安全モデルは防御向けに設計されており、コードの理解、脆弱性の特定、大規模な脅威推論のために学習されています。オープンモデルとクローズドモデルが協調するモデル群として、エージェント型ワークフローを支援できます。

Cisco DefenseClawは、NVIDIA OpenShellの上に載るオープンソースのエージェント型ガバナンス層で、エージェント型ワークフォースを拡大する際にランタイムレベルで堅牢な自動セキュリティを提供します。Ciscoはまた、コードベース内の既知の脆弱性の所在を特定するための2つのAntaresセキュリティ小規模言語モデルと、AIコーディングワークフローにセキュア・バイ・デフォルトの実践を直接組み込むProject CodeGuardも公開しました。

CrowdStrikeは、サイバー防御向けにNVIDIA Nemotron Nanoモデルをファインチューニングしています。社内テストでは、Falcon LogScale内での調査クエリ生成において96%の精度を達成し、自然言語インターフェースによってエージェントの調査効率を高めました。CrowdStrikeはさらに、特化したNVIDIA Nemotron Nano推論モデルが、Security Operations Centerの検知トリアージでより大規模なモデルを上回り、かつキャリブレーションされたlogitベースの確信度を導入することで、測定可能で調整可能、監査可能な自律セキュリティ判断を可能にすることを示した研究も公開しています。

エージェントが何をしたかを把握するだけでは十分ではありません。防御側は、なぜその行動を取ったのか、システムが安全に振る舞っているか、そして実世界で攻撃がどのように進化しているのかも理解する必要があります。Akamaiは、State of the Internet reportsとSecurity Intelligence Group researchの知見を提供し、実世界のデータに基づいてAI時代の脅威を明らかにし、新たな攻撃手法がどのように機能するかを説明して、防御側の学習、適応、対応を支援しています。

Cognitionは、オープンソース由来モデルの整合性とセキュリティリスクを測定する信頼性評価を公開し、これらのリスクは事後学習によって緩和できることを示しました。

Perplexityが開発したNumbatは、クライアントエンドポイント向けのオープンソースのエージェントセキュリティスイートです。macOS、Linux、Windows全体でエージェントの活動を検知、調査、阻止し、防御側にエージェントが実際に何をしたかの構造化された記録を提供します。

Uberは、AIエージェント活動の完全な因果連鎖 — プロンプトから推論、ツール呼び出し、結果まで — を再構築する本番システムADR (Agentic AI Detection and Response)の主要コンポーネントをオープンソース化しました。ADRは現在、30,000のエンドポイントにわたり、1日あたり200,000超のエージェントセッションをサポートしており、効率的な検知と、高確度の脅威に対するより深い調査を組み合わせた二層分析アプローチを採用しています。

可用性とレジリエンス — 重要な瞬間に迅速に復旧するために

エージェントシステムは、障害下でも信頼性を維持し、障害を封じ込め、重要な状態を失うことなく、あるいはより広い環境を露出させることなく安全に復旧できなければなりません。

LangChainは、オープンソースフレームワークであるDeep Agents、LangGraph、LangChainにレジリエンス機能を追加しており、エージェントが中断された作業を再試行し、安全な復旧経路をたどり、最初からやり直す代わりに保存済み状態から再開し、主要モデルが失敗した際には自動的に代替モデルへ切り替えられるようにしています。

Veeamは、Kubernetes上のデータ保護向けオープンソースフレームワークKanisterなどの技術を通じて、AIの背後にあるデータとインフラをレジリエントかつ復旧可能に保つことを支援します。Kanisterは、AIワークロード、ベクトルデータベース、データを検証済みの既知の良好状態へ保護・復旧するのに役立ちます。

アライアンスの成長が続くなか、今後も追加の貢献が見込まれています。メンバーが再利用可能な緩和策を公開すれば、エコシステム全体の防御側がそれらを検査し、適応し、改善できるため、AIの進歩に合わせてセキュリティ実践も進化できます。

Open Secure AI Allianceのメンバーは、8月4日火曜日のPT 5:15pmに、Mandalay Bay Convention CenterのMain Stage、Business Hallの外で集合写真を撮影する予定です。アライアンスの詳細はOpen Secure AI Alliance pageで確認できます。