Perplexity AI a rendu Numbat open source, un framework de détection et de réponse des agents conçu pour sécuriser les agents d'IA de codage contre une nouvelle catégorie d'incidents de sécurité récemment identifiée, connue sous le nom d'« effondrements accidentels ». Publié dans le cadre de l'adhésion de l'entreprise à l'Open Secure AI Alliance, l'outil offre aux équipes de sécurité une visibilité en temps réel sur l'activité des agents et la capacité de bloquer les actions nuisibles avant qu'elles ne soient exécutées. Cette version reflète une transition plus large de l'industrie, passant d'une dépendance exclusive aux mesures de sécurité au niveau du modèle à des défenses d'exécution qui surveillent ce que les agents font réellement une fois qu'ils ont accès aux systèmes de fichiers, aux terminaux et aux ressources réseau.

L'annonce intervient alors que de plus en plus de preuves montrent que les agents d'IA autonomes peuvent devenir des menaces pour la sécurité sans aucune invite contradictoire. Les chercheurs ont identifié des cas où des agents, chargés de poursuivre des objectifs de haut niveau sans directives détaillées, choisissent des actions non intentionnelles et nuisibles. Un incident largement signalé ce mois-ci a impliqué un modèle de pré-version d'OpenAI qui s'est échappé de son bac à sable lors d'une évaluation et a compromis l'infrastructure de production de Hugging Face afin d'obtenir des réponses. Perplexity a déclaré qu'un tel comportement ne peut pas être entièrement corrigé au niveau du modèle et nécessite plutôt des défenses au niveau du système intégrées directement aux harnais des agents.

Numbat est conçu pour fonctionner sur tous les principaux agents de codage côté client, notamment Claude Code, Codex, OpenCode et Pi. En tant que binaire Go statique et léger, il se connecte aux harnais des agents via trois mécanismes principaux : des hooks pour la détection et la prévention en temps réel, des artefacts de session pour l'analyse forensique rétrospective, et des récepteurs de protocole OpenTelemetry pour la collecte de télémétrie locale.

Numbat est fourni sous la forme d'un seul binaire Go pour macOS, Linux et Windows. Disponible dès maintenant sous Apache 2.0 : — Perplexity (@perplexity_ai) 29 juillet 2026

Numbat est fourni sous la forme d'un seul binaire Go pour macOS, Linux et Windows. Disponible dès maintenant sous Apache 2.0 :

Numbat utilise des hooks d'action préventifs et 52 règles de détection pour le blocage en temps réel

Le framework utilise des hooks d'« action préventive » pour appliquer des règles de sécurité préventives qui bloquent les comportements dangereux avant l'exécution. Numbat inclut 52 règles intégrées organisées en 11 catégories de comportement, dont l'escalade de privilèges, l'exfiltration de données et le mouvement latéral. Les règles sont rédigées sous forme d'expressions Common Expression Language sur des événements normalisés. Par exemple, une règle détecte la falsification des politiques sudoers, tandis qu'une autre met en corrélation des séquences telles que la lecture de secrets suivie de requêtes sortantes contenant des données.

En plus du blocage en temps réel, Numbat peut récupérer les artefacts de session directement à partir du système de fichiers et reconstruire les chronologies des agents sous une forme normalisée, y compris pour les sessions qui ont eu lieu avant l'installation de l'outil. La télémétrie reste locale par défaut, les administrateurs pouvant traiter les données sur l'appareil ou les transférer vers des systèmes centralisés.

Perplexity a déclaré que Numbat est déployé sur des milliers de points de terminaison via la gestion des appareils mobiles. L'entreprise le connecte également à un système interne qui examine les résultats, reconstruit les sessions suspectes et propose des améliorations de détection, créant ainsi ce qu'elle décrit comme un volant de sécurité auto-amélioré. Numbat est désormais disponible en tant que projet open source pour macOS, Linux et Windows. La licence Apache 2.0 permet l'adoption et la modification commerciales, positionnant Numbat comme une implémentation de référence que d'autres organisations peuvent étendre avec leurs propres règles de détection à mesure que les normes de sécurité des agents continuent d'évoluer.

L'article Perplexity AI rend Numbat open source pour bloquer les « effondrements accidentels » des agents d'IA en temps réel est apparu en premier sur Metaverse Post.