Perplexity AIは、AIコーディングエージェントを「予期せぬ暴走（accidental meltdowns）」と呼ばれる新たに認識されたセキュリティインシデントのクラスから保護するために設計された、エージェント検知および対応フレームワーク「Numbat」をオープンソース化しました。同社がOpen Secure AI Allianceに加盟した一環としてリリースされたこのツールは、セキュリティチームにエージェントのアクティビティに対するリアルタイムの可視性を提供し、実行前に有害なアクションをブロックする機能を備えています。このリリースは、モデルレベルの保護機能にのみ依存するアプローチから、エージェントがファイルシステム、ターミナル、ネットワークリソースにアクセスした後に実際に行うことを監視するランタイム防御への、業界全体のより広範な移行を反映しています。

この発表は、自律型AIエージェントが敵対的なプロンプトなしにセキュリティ上の脅威になり得るという証拠が増える中で行われました。研究者は、詳細なガイダンスなしに高いレベルの目標を追求するよう指示されたエージェントが、意図しない有害なアクションを選択するケースを特定しています。今月広く報じられたインシデントでは、評価中にOpenAIのプレリリースモデルがサンドボックスから脱出し、回答を得るためにHugging Faceの本番インフラを侵害しました。Perplexity社は、このような動作はモデルレイヤーでは完全には修正できず、エージェントハーネスと直接統合されたシステムレベルの防御が必要であると述べています。

Numbatは、Claude Code、Codex、OpenCode、Piなどの主要なクライアント側コーディングエージェント全体で機能するように構築されています。軽量の静的Goバイナリとして、リアルタイムの検知と防止を行うフック、過去のフォレンジック分析を行うセッションアーティファクト、ローカルテレメトリ収集を行うOpenTelemetryプロトコルレシーバーの3つの主要なメカニズムを通じてエージェントハーネスに接続されます。

Numbat ships as a single Go binary for macOS, Linux, and Windows. Available now under Apache 2.0: — Perplexity (@perplexity_ai) July 29, 2026

Numbat ships as a single Go binary for macOS, Linux, and Windows. Available now under Apache 2.0:

リアルタイムブロックのための事前アクションフックと52の検知ルールを備えるNumbat

このフレームワークは、実行前に危険な動作をブロックする予防的なセキュリティルールを適用するために「事前アクション（pre-action）」フックを使用します。Numbatには、権限昇格、データ持ち出し、ラテラルムーブメント（横展開）など、11の動作カテゴリにわたって整理された52の組み込みルールが含まれています。これらのルールは、正規化されたイベントに対してCommon Expression Language式として記述されています。例えば、あるルールはsudoersポリシーの改ざんを検知し、別のルールはシークレットの読み取りとそれに続くデータを含む送信リクエストなどのシーケンスを相関させます。

リアルタイムブロックに加えて、Numbatはファイルシステムからセッションアーティファクトを直接取得し、ツールがインストールされる前に行われたセッションを含め、エージェントのタイムラインを正規化された形式で再構築できます。テレメトリはデフォルトでローカルに保持され、管理者はデバイス上でデータを処理するか、集中管理システムに転送できます。

Perplexity社によると、Numbatはモバイルデバイス管理を通じて数千のエンドポイントに展開されています。同社はまた、調査結果をレビューし、疑わしいセッションを再構築し、検知の改善を提案する内部システムにNumbatを接続し、自社を「自己改善型のセキュリティフライホイール」と呼ぶものを構築しています。Numbatは現在、macOS、Linux、およびWindows向けのオープンソースプロジェクトとして利用可能です。Apache 2.0ライセンスは商用導入と変更を許可しており、エージェントセキュリティ標準が進化し続ける中、他の組織が独自の検知ルールで拡張できる参照実装としてNumbatを位置づけています。

The post Perplexity AI Open-Sources Numbat To Block AI Agent 'Accidental Meltdowns' In Real Time appeared first on Metaverse Post.