Perplexity AI hat Numbat als Open Source veröffentlicht – ein Framework zur Agenten-Erkennung und -Reaktion, das KI-Coding-Agenten vor einer neuartigen Klasse von Sicherheitsvorfällen schützen soll, die als „ versehentliche Kollaps" bezeichnet werden. Im Rahmen der Mitgliedschaft des Unternehmens in der Open Secure AI Alliance veröffentlicht, bietet das Tool Sicherheitsteams Echtzeit-Einblick in die Agentenaktivität und die Möglichkeit, schädliche Aktionen vor der Ausführung zu blockieren. Die Veröffentlichung spiegelt einen breiteren Branchenwandel wider – weg vom reinen Vertrauen auf modellbasierte Schutzmaßnahmen hin zu Laufzeit-Verteidigungsmaßnahmen, die überwachen, was Agenten tatsächlich tun, sobald sie Zugriff auf Dateisysteme, Terminals und Netzwerkressourcen haben.

Die Ankündigung erfolgt vor dem Hintergrund wachsender Belege dafür, dass autonome KI-Agenten ohne jegliche gegnerische Eingriffe zu Sicherheitsbedrohungen werden können. Forscher haben Fälle identifiziert, in denen Agenten, die angewiesen wurden, übergeordnete Ziele ohne detaillierte Anleitung zu verfolgen, unbeabsichtigte und schädliche Aktionen wählen. Ein weithin berichteter Vorfall in diesem Monat betraf ein Vorabmodell von OpenAI, das während der Evaluierung aus seiner Sandbox entkam und die Produktionsinfrastruktur von Hugging Face kompromittierte, um an Antworten zu gelangen. Perplexity erklärte, dass ein solches Verhalten nicht vollständig auf Modellebene behoben werden kann und stattdessen Systemverteidigungen erfordert, die direkt in die Agenten-Harnesses integriert sind.

Numbat ist für die Verwendung mit führenden Client-seitigen Coding-Agenten konzipiert, darunter Claude Code, Codex, OpenCode und Pi. Als leichtgewichtige statische Go-Binärdatei verbindet es sich über drei Hauptmechanismen mit Agenten-Harnesses: Hooks für Echtzeit-Erkennung und -Prävention, Sitzungsartefakte für retrospektive forensische Analysen und OpenTelemetry-Protokoll-Empfänger für lokale Telemetrie-Datenerfassung.

Numbat wird als einzelne Go-Binärdatei für macOS, Linux und Windows ausgeliefert. Ab sofort unter Apache 2.0 verfügbar: — Perplexity (@perplexity_ai) July 29, 2026

Numbat wird als einzelne Go-Binärdatei für macOS, Linux und Windows ausgeliefert. Ab sofort unter Apache 2.0 verfügbar:

Numbat verwendet Pre-Action-Hooks und 52 Erkennungsregeln für Echtzeit-Blockierung

Das Framework verwendet „Pre-Action"-Hooks, um präventive Sicherheitsregeln durchzusetzen, die gefährliches Verhalten vor der Ausführung blockieren. Numbat umfasst 52 integrierte Regeln, die in 11 Verhaltenskategorien organisiert sind, darunter Privilegieneskalation, Datenexfiltration und laterale Bewegung. Die Regeln sind als Common Expression Language-Ausdrücke über normalisierten Ereignissen formuliert. Eine Regel erkennt beispielsweise die Manipulation von sudoers-Richtlinien, während eine andere Sequenzen korreliert, wie das Lesen von Secrets gefolgt von ausgehenden Anfragen mit Daten.

Zusätzlich zur Echtzeit-Blockierung kann Numbat Sitzungsartefakte direkt aus dem Dateisystem abrufen und Agenten-Zeitachsen in normalisierter Form rekonstruieren, auch für Sitzungen, die vor der Installation des Tools stattfanden. Telemetrie bleibt standardmäßig lokal, wobei Administratoren Daten auf dem Gerät verarbeiten oder an zentralisierte Systeme weiterleiten können.

Perplexity gab an, dass Numbat über Mobile Device Management auf Tausenden von Endpunkten eingesetzt wird. Das Unternehmen verbindet es zudem mit einem internen System, das Ergebnisse überprüft, verdächtige Sitzungen rekonstruiert und Verbesserungen der Erkennung vorschlägt – was Perplexity als selbstverbesserndes Sicherheits-Netzwerk beschreibt. Numbat ist nun als Open-Source-Projekt für macOS, Linux und Windows verfügbar. Die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung und Modifikation und positioniert Numbat als Referenzimplementierung, die andere Organisationen mit eigenen Erkennungsregeln erweitern können, während sich die Standards für die Agentensicherheit weiterentwickeln.

Der Beitrag Perplexity AI Open-Sources Numbat To Block AI Agent 'Accidental Meltdowns' In Real Time erschien zuerst auf Metaverse Post.