世界中の企業におけるAIエージェントの急速な普及は、リスクの全く新しい次元をもたらすと同時に、内部脅威を劇的に拡大させている。組織は今、これらのエージェントがユーザー、他のエージェント、データ、およびアプリケーションとどのように相互作用するかを管理しなければならず、そうした相互作用の制御は、今日の企業が直面する最重要のセキュリティ課題となりつつある。カスタマーサポートからコード生成、データ分析に至るまで、エージェントを様々なタスクに配備するにつれて、新たな統合ごとに攻撃面が拡大していくが、それは従来のセキュリティフレームワークが想定していなかった領域である。

この変化を企業のセキュリティにおける過去の進化と区別するのは、スピードと自律性の組み合わせである。人間による内部脅威は通常、数日から数週間かけて展開され、その過程で検出可能なパターンが残される。一方、AIエージェントは、セキュリティチームが異常を認識する前に、数千の自律的アクションを実行できる。これは些細な違いではなく、根本的に異なるリスクのカテゴリーであり、大多数の組織は依然として旧来のカテゴリーに合わせて防御策を調整している状態にある。

企業向けに数十万のAIモデルとデータセットをホストするオープンソースプラットフォームであるHugging Faceは、特定の目標を与えられたAIエージェントが、それを制約するために設計された障壁を回避できることを明確に示した。侵害が既成事実となった今、問うべきはガードレールを実装すべきかどうかではなく、いつ実装するかである。しかし、実際に何が起きたか、そして今後どう進むべきかに集中する代わりに、業界は問題を曖昧にする周辺的な要因に固執しようとしている。

根本的な要点はこうである。このリスクへの対処の責任は、モデルプロバイダーだけに負わせることはできない。フロンティアモデル企業であれ、オープンソースモデルの開発者であれ、自らが作成したモデルに対してサイバーセキュリティ保護を提供することを期待されるべきではない。

サイバーセキュリティは常に独立した専門分野であった。それは深い専門知識を持つ組織によって対処されなければならない。AI時代には、可視性、ガバナンス、リアルタイム制御のために目的から構築されたセキュリティアーキテクチャが求められるのであり、全く異なる課題のために設計されたソリューションを後から流用したものではない。

これはモデルビルダーを信用しないという問題ではない。それは、セキュリティが何十年にわたって機能してきた基礎原理を反映している。製品を開発するチームが、その製品を最も適切に保護できるチームであることは稀である。なぜなら、構築することと保護することは、根本的に異なる使命を持つ二つの異なる専門領域だからである。これは20年前のエンタープライズソフトウェアについて真であったように、今日のAIシステムについても同様に真である。

米中AI競争の問題ではない

これをオープンソース対クローズドソースの議論として、あるいは一国のモデルを別の国のモデルと対立させるものとして捉える反射的な反応は、実際に起きたことの本質を見逃し、事態から注意を逸らせるものである。ナショナリズムはここでは無関係である。これは中国のオープンソースモデル対アメリカのクローズドソースモデルの話ではない。AIによって生み出される課題は国境によって封じ込められるものではない。むしろ、その国境が技術的、政治的、社会的、経済的な障壁をさらに複雑にしている可能性がある。

現実には、サイバーセキュリティは懸念のうちで最も小さいものかもしれない。根本的な課題は単一の産業をはるかに超えて広がっており、それを地政学的な競争として扱っても解決には近づかない。国境を引いて国家間の制約のない競争を煽ることは、フロンティアAIが提示する課題に取り組む上で逆効果である。

この状況を国家間の対立として枠組みすることは、注意と資源を誤って配分することにもつながる。モデルがどこで作られたかについての議論に費やされた1時間1時間は、モデルの出所にかかわらず、この種のインシデントを防ぐことができるコントロールの構築に充てられなかった1時間である。攻撃面は、モデルのパスポートなど気にしない。

グローバル協力の必要性

現在直面しているより広範なAIリスクに取り組むには、集団的行動が必要である。これには、AIの安全性とセキュリティに関する世界的協力が求められる。モデル企業、セキュリティ専門家、政府、そして企業が集い、それぞれが適切な専門知識を持ち寄る必要がある。それが、イノベーションを阻害することなく守るための道である。

Nvidiaが主導するOpen Secure AI Allianceは正しい方向への一歩であるが、それはほんの始まりにすぎない。やるべきことはさらに多く残されている。世界経済フォーラム（WEF）のようなグローバル連合や国際的なフォーラムは、多様な視点を持つ専門家が、AIが生み出した複雑なガバナンス、セキュリティ、および政策課題に取り組むためのプラットフォームを提供している。

これらの各構成主体は、AI安全性のパズルの重要なピースを一つずつ握っている。モデル企業は、自らが構築したシステムについて比類のない理解を持っている。セキュリティ企業は、攻撃者がどのように考え、企業が実際にどのように侵害されるかを理解している。それは何十年にわたる実践で蓄積された知識である。政府は、調整を図り、エコシステム全体が基盤とできる標準を設定できる。単一のグループが他のグループの役割を果たすことはできず、そうでないと仮装することこそが、目の当たりにしたようなギャップがさらに広がる原因なのである。

今日、すべての企業は何らかの自律性を持つAIエージェントを運用しており、その数は増える一方である。問うべき価値のある問いは、どの研究所がモデルを構築したか、あるいはどの国から生まれたかではない。誰かが、これらのエージェントが次に何をする準備ができているかを捕捉できるほど注意深く監視しているかどうか、ということである。

Fortune.comの論評記事に表現された意見は著者個人の見解のみであり、必ずしもFortuneの意見や見解を反映するものではありません。

この記事はFortune.comで初めて掲載されました。