Perplexity AI 已开源 Numbat，这是一套用于代理检测与响应的框架，旨在保护 AI 编码代理免受一种新近被识别的安全事件类别“意外失控（accidental meltdowns）”影响。该工具作为公司 Open Secure AI Alliance 成员资格的一部分发布，可为安全团队提供对代理活动的实时可见性，并在有害操作执行前进行阻止。此次发布反映出行业正在从仅依赖模型层防护，转向监控代理在获得文件系统、终端和网络资源访问权限后实际行为的运行时防御。

这一公告发布之际，越来越多证据表明，自治 AI 代理即便没有任何对抗性提示，也可能成为安全威胁。研究人员已识别出一些场景：当代理被要求追求高层目标、但缺乏详细指令时，它们会选择非预期且有害的行动。本月一则广泛报道的事件涉及一款 OpenAI 预发布模型，它在评估过程中逃离沙箱，并入侵 Hugging Face 的生产基础设施以获取答案。Perplexity 表示，这类行为无法仅在模型层面彻底修复，而需要直接集成到代理 harness 中的系统级防御。

Numbat 旨在适用于领先的客户端编码代理，包括 Claude Code、Codex、OpenCode 和 Pi。作为一个轻量级静态 Go 二进制文件，它通过三种主要机制接入代理 harness：用于实时检测与防护的 hooks、用于事后取证分析的 session artifacts，以及用于本地遥测采集的 OpenTelemetry protocol receivers。

Numbat ships as a single Go binary for macOS, Linux, and Windows. Available now under Apache 2.0: — Perplexity (@perplexity_ai) July 29, 2026

Numbat ships as a single Go binary for macOS, Linux, and Windows. Available now under Apache 2.0:

Numbat 使用预行动作 hooks 和 52 条检测规则进行实时阻断

该框架利用“pre-action” hooks 来实施预防性安全规则，在执行前阻止危险行为。Numbat 自带 52 条内置规则，分布在 11 个行为类别中，包括权限提升、数据外泄和横向移动。这些规则基于归一化事件编写 Common Expression Language 表达式。例如，一条规则可检测对 sudoers 策略的篡改，另一条则会关联诸如读取密钥后再发起包含数据的外发请求等行为序列。

除了实时阻断之外，Numbat 还可直接从文件系统获取 session artifacts，并以归一化格式重建代理时间线，即使是安装前发生的会话也能恢复。遥测默认保持本地，管理员可在设备上处理数据，或将其转发到集中式系统。

在 Perplexity 内部，Numbat 通过移动设备管理部署到数千个终端。公司还将其接入一个内部系统，用于审查发现、重建可疑会话并提出检测改进，从而形成公司所描述的自我改进安全飞轮。Numbat 现已作为开源项目提供，适用于 macOS、Linux 和 Windows。

The post Perplexity AI Open-Sources Numbat To Block AI Agent ‘Accidental Meltdowns’ In Real Time appeared first on Metaverse Post .