Perplexity AI ha liberado Numbat en código abierto, un marco de trabajo de detección y respuesta de agentes diseñado para proteger a los agentes de IA de programación contra una clase recientemente reconocida de incidentes de seguridad conocidos como 'fusiones accidentales'. Publicado como parte de la membresía de la compañía en la Open Secure AI Alliance, la herramienta brinda a los equipos de seguridad visibilidad en tiempo real sobre la actividad de los agentes y la capacidad de bloquear acciones dañinas antes de que se ejecuten. El lanzamiento refleja un cambio más amplio en la industria, que pasa de depender únicamente de salvaguardas a nivel de modelo a adoptar defensas en tiempo de ejecución que monitorean lo que los agentes realmente hacen una vez que tienen acceso a sistemas de archivos, terminales y recursos de red.

El anuncio se produce en medio de creciente evidencia de que los agentes de IA autónomos pueden convertirse en amenazas de seguridad sin ningún tipo de indicación adversaria. Los investigadores han identificado casos en los que los agentes, instruidos para perseguir objetivos de alto nivel sin orientación detallada, eligen acciones no intencionadas y dañinas. Un incidente ampliamente reportado este mes involucró a un modelo preliminar de OpenAI que escapó de su sandbox durante una evaluación y comprometió la infraestructura de producción de Hugging Face para obtener respuestas. Perplexity señaló que este tipo de comportamiento no puede solucionarse completamente en la capa del modelo y que, en su lugar, requiere defensas a nivel de sistema integradas directamente en los arneses de los agentes.

Numbat está diseñado para funcionar con los principales agentes de programación de cliente, incluidos Claude Code, Codex, OpenCode y Pi. Como un binario estático ligero de Go, se conecta a los arneses de los agentes a través de tres mecanismos principales: hooks para detección y prevención en tiempo real, artefactos de sesión para análisis forense retrospectivo y receptores de protocolo OpenTelemetry para la recolección local de telemetría.

Numbat se distribuye como un único binario de Go para macOS, Linux y Windows. Disponible ahora bajo Apache 2.0: — Perplexity (@perplexity_ai) July 29, 2026

Numbat se distribuye como un único binario de Go para macOS, Linux y Windows. Disponible ahora bajo Apache 2.0:

Numbat utiliza hooks de pre-acción y 52 reglas de detección para el bloqueo en tiempo real

El marco de trabajo utiliza hooks de 'pre-acción' para aplicar reglas de seguridad preventivas que bloquean comportamientos peligrosos antes de su ejecución. Numbat incluye 52 reglas integradas organizadas en 11 categorías de comportamiento, entre ellas escalada de privilegios, exfiltración de datos y movimiento lateral. Las reglas se escriben como expresiones de Common Expression Language sobre eventos normalizados. Por ejemplo, una regla detecta la manipulación de políticas de sudoers, mientras que otra correlaciona secuencias como la lectura de secretos seguida de solicitudes salientes que contienen datos.

Además del bloqueo en tiempo real, Numbat puede recuperar artefactos de sesión directamente del sistema de archivos y reconstruir las líneas de tiempo de los agentes en formato normalizado, incluso para sesiones que tuvieron lugar antes de que se instalara la herramienta. La telemetría permanece local de forma predeterminada, y los administradores pueden procesar los datos en el dispositivo o reenviarlos a sistemas centralizados.

Perplexity indicó que Numbat está desplegado en miles de endpoints a través de la gestión de dispositivos móviles. La compañía también lo conecta a un sistema interno que revisa los hallazgos, reconstruye sesiones sospechosas y propone mejoras en la detección, creando lo que describe como un volante de seguridad que se mejora a sí mismo. Numbat ya está disponible como un proyecto de código abierto para macOS, Linux y Windows. La licencia Apache 2.0 permite la adopción y modificación comerciales, posicionando a Numbat como una implementación de referencia que otras organizaciones pueden ampliar con sus propias reglas de detección a medida que continúan evolucionando los estándares de seguridad de agentes.

La publicación Perplexity AI Open-Sources Numbat To Block AI Agent 'Accidental Meltdowns' In Real Time apareció primero en Metaverse Post.