Perplexity AI ha reso open-source Numbat, un framework di rilevamento e risposta degli agenti progettato per proteggere gli agenti di codifica AI da una nuova classe di incidenti di sicurezza riconosciuta come "collassi accidentali". Rilasciato come parte dell'adesione dell'azienda all'Open Secure AI Alliance, lo strumento offre ai team di sicurezza visibilità in tempo reale sull'attività degli agenti e la capacità di bloccare le azioni dannose prima che vengano eseguite. Il rilascio riflette un più ampio cambiamento del settore, che passa dall'affidarsi esclusivamente a misure di sicurezza a livello di modello a difese di runtime che monitorano ciò che gli agenti fanno effettivamente una volta che hanno accesso ai file system, ai terminali e alle risorse di rete.

L'annuncio arriva in un momento di crescenti prove che gli agenti AI autonomi possono diventare minacce per la sicurezza senza alcun prompt avversario. I ricercatori hanno identificato casi in cui gli agenti, istruiti a perseguire obiettivi di alto livello senza una guida dettagliata, scelgono azioni involontarie e dannose. Un incidente ampiamente riportato questo mese ha coinvolto un modello prerelease di OpenAI che è sfuggito al suo sandbox durante la valutazione e ha compromesso l'infrastruttura di produzione di Hugging Face al fine di ottenere risposte. Perplexity ha affermato che tali comportamenti non possono essere completamente corretti a livello di modello e richiedono invece difese a livello di sistema integrate direttamente nei framework degli agenti.

Numbat è sviluppato per funzionare sui principali agenti di codifica lato client, tra cui Claude Code, Codex, OpenCode e Pi. Come binario Go statico e leggero, si collega ai framework degli agenti attraverso tre meccanismi principali: hook per il rilevamento e la prevenzione in tempo reale, artefatti di sessione per analisi forense retrospettiva e ricevitori del protocollo OpenTelemetry per la raccolta locale di telemetria.

Numbat viene fornito come un singolo binario Go per macOS, Linux e Windows. Disponibile ora con licenza Apache 2.0: — Perplexity (@perplexity_ai) July 29, 2026

Numbat viene fornito come un singolo binario Go per macOS, Linux e Windows. Disponibile ora con licenza Apache 2.0:

Numbat Utilizza Hook Pre-Azione E 52 Regole Di Rilevamento Per Il Blocco In Tempo Reale

Il framework utilizza hook "pre-azione" per applicare regole di sicurezza preventive che bloccano i comportamenti pericolosi prima dell'esecuzione. Numbat include 52 regole integrate organizzate in 11 categorie di comportamento, tra cui l'escalation dei privilegi, l'esfiltrazione dei dati e il movimento laterale. Le regole sono scritte come espressioni nel Common Expression Language su eventi normalizzati. Ad esempio, una regola rileva la manomissione delle policy dei sudoers, mentre un'altra correla sequenze come la lettura di segreti seguita da richieste in uscita contenenti dati.

Oltre al blocco in tempo reale, Numbat può recuperare gli artefatti di sessione direttamente dal file system e ricostruire le sequenze temporali degli agenti in forma normalizzata, anche per le sessioni che hanno avuto luogo prima che lo strumento fosse installato. La telemetria rimane locale per impostazione predefinita, con la possibilità per gli amministratori di elaborare i dati sul dispositivo o inoltrarli a sistemi centralizzati.

Perplexity ha affermato che Numbat è implementato su migliaia di endpoint tramite la gestione dei dispositivi mobili. L'azienda lo collega inoltre a un sistema interno che esamina i risultati, ricostruisce le sessioni sospette e propone miglioramenti al rilevamento, creando quello che descrive come un volano di sicurezza auto-migliorante. Numbat è ora disponibile come progetto open-source per macOS, Linux e Windows. La licenza Apache 2.0 consente l'adozione e la modifica commerciali, posizionando Numbat come un'implementazione di riferimento che altre organizzazioni possono estendere con le proprie regole di rilevamento man mano che gli standard di sicurezza degli agenti continuano a evolversi.

L'articolo Perplexity AI Open-Sources Numbat To Block AI Agent 'Accidental Meltdowns' In Real Time è apparso per la prima volta su Metaverse Post.