オープンソースソフトウェアは、世界経済の重要な柱です。専門家コミュニティが技術を利用可能で観測可能なものにすることで、クラウドコンピューティング、金融サービス、製造、通信、政府、インターネットサービスを支えています。

サイバーセキュリティは、オープンソースソフトウェアの恩恵を最も受ける分野の上位3つに含まれます。Open Secure AI Allianceは、Linux FoundationのAkritesイニシアチブとOpenSSFコミュニティの取り組みに基づき、オープンな技術を用いて脆弱性の修復と開示に取り組みます。AIシステムがソフトウェアやセキュリティ運用にますます組み込まれる中、問われているのは単にこれらのツールの性能ではなく、現実の脅威に追随できる速度で防御側がそれらを検査し、テストし、適応できるかどうかです。

オープンソースがソフトウェアの共有基盤を築いたように、米国とそのパートナーはいま、AIセキュリティにおいて選択を迫られています。インフラを守る防御が、少数の不透明なシステムの中に置かれるのか、それとも、あらゆる防御者が学び、適応し、展開できるオープンなモデル、ハーネス、ツールの上に構築されるのか、という選択です。

世界にはクローズドモデルとオープンモデルの両方が必要です。サイバーセキュリティにおいては、オープンモデルとオープンハーネスが不可欠です。なぜなら、それらは防御能力を広く利用可能にし、防御者への透明性を高め、データを保護しながらサイバー防御を可能にし、最先端のクローズドモデルをカスタマイズ可能で地域に即した制御で補完するからです。オープンソースは、単一障害点のない、広範に分散されたコミュニティ主導かつ自己管理型の防御を可能にします。

オープンモデルは、他の強力な技術と同様に悪用され得ます。防御策を弱めようとする試みや、サイバー攻撃のために機能を転用しようとする試みも含まれます。しかし、そうしたリスクはオープンシステムに固有のものではなく、高度なAIが展開されるあらゆる場面で管理される必要があります。

最近のHugging Faceのセキュリティ事案は、サイバー防御側が自己防衛のためにオープンで最先端のエージェント型システムを必要としていることを明確に示しました。攻撃者と防御者を識別できないクローズドなAIツールが重要なフォレンジック分析を妨げた際、Hugging Faceは自社インフラ上でオープンウェイトのGLM 5.2モデルを実行し、17,000件超のアクションを分析して侵入を封じ込めました。

この事案は実務上の真実を示しました。防御側が自らのインフラ上で高度なAIを検査し、適応し、実行できない場合、最も迅速な対応が求められる瞬間に、その対応能力は制約されます。企業と各国は、重要産業がマルチベンダーのエコシステム全体でセキュリティシステムを構築し、単一障害点を回避できるように、オープンで最先端の防御ツールと手法を必要としています。

それがOpen Secure AI Allianceの使命です。世界中の防御者が、信頼でき、制御できるオープンで最先端のツールを持てるようにすることです。

クラウドコンピューティング、サイバーセキュリティ、エンタープライズソフトウェア、オープンソース財団、AI研究の各分野でのリーダーたち――NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、the Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、Siemens、SK Telecom、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab、TrendAI――は、AI時代のソフトウェアとエージェントを保護するためのオープンな技術、手法、ツールを開発し共有する運動であるOpen Secure AI Allianceの創設パートナーです。

オープンモデルは、サイバー攻撃に悪用されたり、ガードレールを除去するために改変されたりし得るため、本質的に安全性が低いと主張する向きもあります。そうしたリスクは現実に存在しますが、クローズドシステムでは消えませんし、重みを閉じたままにしても、強力なAIを狙う決意のある攻撃者を防ぐことはできません。

正しい対応は、防御者に有能なオープンシステムへのアクセスを拒むことではありません。オープン性に、強固な防護策、悪意ある悪用を禁じる明確なルール、厳格な評価、迅速な修復を組み合わせることです。サイバーセキュリティにおいて、より安全な道は、社会が依拠するシステムをより多くの防御者がテストし、検証し、強化できるようにする道です。

防御者には、最先端のクローズドモデルと最先端のオープンモデルの両方が必要です。両者が連携することで、用途に応じて適切なシステムを選べ、透明性、適応性、主権的な制御を、セキュリティが求めるあらゆる場面で確保できます。

オープンな研究はサイバーセキュリティとAIの安全性を高める

AIエージェントは単なる言語モデルではありません。モデル、ハーネス、ガードレールから成る複雑なシステムです。

真のAIの安全性とセキュリティは、モデル重みがオープンかクローズドかだけではなく、アイデンティティ、権限、ハーネス、ガードレール、ログ、評価を含むエージェント全体のスタックに依存します。オープンなハーネスとツールは、そうした制御を多くの防御者が検査し、テストし、改善しやすくします。

NVIDIAは、新たなサイバーセキュリティのツールと手法の開発を加速するため、オープンモデル、モデル重み、データ、そして新しいエージェントハーネス研究をOpen Secure AI Allianceに提供しています。

新しいオープンソースのNVIDIA Labs Object-Oriented Agent（NOOA）プロジェクトは現在GitHubで公開されており、エージェントハーネスが高度なAI安全機能をより利用しやすくすることを目指しています。NOOAの研究フレームワークにより、ハーネスはモデルとよりよく統合され、エージェントの挙動をテスト、追跡、監査、統治しやすくなります。

アライアンス全体では、参加者が、アイデンティティと隔離から、安全なモデル形式、マルチモデルスキャン、安全なコーディングワークフローまで、エージェント向けのオープンな防御スタックを構築しています。

HPEはSPIFFE/SPIREに貢献しており、これはゼロトラストのアイデンティティフレームワーク標準と手法を作成し、AIエージェントとサービスを暗号学的に検証して、認可されたワークロードのみが通信し、企業資源にアクセスできるようにします。

Hugging Faceは、AIモデル重みを保存する安全な形式であり、透明性とリモートコード実行がないことの保証を提供するSafetensorsをPyTorch Foundationに提供しました。

IBMとRed HatのLightwellは、デジタル署名付きパッチによってオープンソースのサプライチェーン全体のセキュリティを拡張します。

MicrosoftのMDASHマルチモデル・エージェント型スキャンハーネスは、専門化されたAIエージェントを編成して、悪用可能なバグを発見し、議論し、証明します。

SpaceXAIは、信頼、透明性、新たな機能を促進するため、ターミナルベースのAIコーディングエージェントであるGrok Buildをオープンソース化しており、開発者および研究コミュニティを支援するため、Grok系モデルの重みもオープンソース化する予定です。

政策立案者と規制当局への提言

政策立案者や規制当局がAIの安全性に取り組む中で、AIおよびサイバーセキュリティ政策において、オープンモデル、ハーネス、セキュリティツールを負債ではなく防御資産として認識することが極めて重要になります。オープンな最先端AIシステムに対する一律の制限は、防御能力を弱め、権力、依存、脆弱性を少数のクローズドな提供者に集中させる恐れがあります。

企業と政府は、過去の世代がオープンソースソフトウェアに投資したのと同じように、AI防御のための共有オープンインフラ――データセット、評価フレームワーク、攻撃シミュレーター、レッドチーミングツール――に投資すべきです。

私たちが築くべき未来

AIエージェントの時代は、レジリエンスと共有されたセキュリティの時代になり得ます。適切な選択をすれば、オープンで安全なAIシステムは、防御者に必要なツールを提供し、競争を強化し、技術的リーダーシップを拡大し、この卓越した技術の安全性とセキュリティが、すべての人のためにオープンに構築されることを保証できます。

その未来は、秘密こそが安全であるという前提だけでは守られません。検証に耐えうるほど強固で、改善可能なほど柔軟で、防御者コミュニティ全体を動員できるほどオープンなシステムを構築することで守られます。

その未来には築く価値があります。そしてOpen Secure AI Allianceは、政府、産業界、研究者に対し、AI時代を共に守る取り組みに参加するよう呼びかけています。

Open Secure AI Allianceへの参加について、詳細をご覧いただくか、関心をお寄せください。