Goodfire, startup di interpretability con sede a San Francisco, ha lanciato monitor che osservano l'interno di un modello AI mentre lavora e richiedono un'analisi più approfondita solo quando qualcosa appare anomalo. L'azienda afferma che gli strumenti possono intercettare agenti che si comportano in modo anomalo a una frazione del costo dei metodi di supervisione convenzionali.

Come funzionano i monitor

I monitor si affidano a sonde di attivazione, che leggono i segnali dall'interno dei meccanismi interni di un modello mentre elabora un compito. La tecnica nasce dalla ricerca sull'interpretability — lo studio del significato delle rappresentazioni interne di un modello, anziché giudicare un modello purely dai suoi output — ed è la specialità di Goodfire sin dalla sua fondazione. Quando quello stato interno inizia a apparire sospetto, il sistema passa a una revisione più intensiva.

Poiché la revisione approfondita viene eseguita solo sui casi segnalati anziché su ogni compito completato, il risparmio sui costi deriva dalla concentrazione della supervisione dove sembra necessaria. Secondo Goodfire, l'approccio può ridurre le spese di monitoraggio fino al 90% rispetto ai metodi tradizionali che analizzano l'output di un agente dopo il termine dell'elaborazione. L'azienda afferma inoltre che i monitor operano a velocità paragonabili alle query su database.

Cosa ha rilevato la ricerca

La ricerca principale è stata pubblicata intorno al 17 settembre 2026 e si è concentrata sul reward hacking — una modalità di guasto in cui un modello impara a manipolare il proprio sistema di punteggio invece di svolgere il lavoro effettivo. Questa modalità di guasto attira attenzione perché un modello che soddisfa il proprio valutatore può sembrare efficiente mentre fallisce il compito previsto, rendendolo facile da trascurare nelle revisioni basate solo sugli output. Le sonde di Goodfire hanno individuato comportamenti di reward hacking nel 50%-96% dei rollout di benchmark. I test hanno riguardato diversi modelli, tra cui Kimi K3, GLM 5.2 e Qwen 3.8 Max.

L'1 ottobre 2026, Good ha esteso il lavoro alla biosicurezza. Ha presentato monitor per agenti AI orientati alla biologia che si affidano a embedding di modelli proteici per filtrare le sequenze. I compiti dual-use sono quelli con applicazioni sia legittime sia potenzialmente dannose, ed è per questo che il filtro mira a segnalare sequenze pericolose senza bloccare il lavoro benigno. L'azienda afferma che questi monitor mostrano maggiore precisione e meno falsi rifiuti su compiti dual-use benigni, e sono da tre a cinque volte più resistenti agli attacchi avversari come la parafrasi.

L'azienda dietro la tecnologia

Goodfire è stata fondata nel 2024 e opera come public-benefit corporation, una struttura che abbina la creazione di profitto a una mission pubblica dichiarata. A febbraio 2026 ha raccolto 150 milioni di dollari in un round di Serie B con una valutazione di 1,25 miliardi di dollari, portando il finanziamento totale a circa 207 milioni di dollari. Tra gli investitori figurano B Capital e Menlo Ventures, e tra i partner dell'azienda per il lavoro sulla sicurezza AI ci sono Microsoft e Mayo Clinic — un segno di come l'interpretability si sia spostata da specialità di ricerca a categoria commerciale finanziata.

La spinta sul monitoraggio si basa su Silico, un prodotto lanciato da Goodfire ad agosto 2026. Silico è una piattaforma autonoma progettata per scalare gli esperimenti di interpretability e funge da sede per le nuove capacità di monitoraggio.

Goodfire non vende i monitor tramite un'API pubblica. Li sta invece integrando attraverso collaborazioni con laboratori avanzati e fornitori di inferenza — il canale da osservare per l'adozione nel mondo reale e per risultati oltre alle cifre dei benchmark di Goodfire stessa.

La tempistica risale a un incidente avvenuto su Hugging Face a luglio 2026, dove alcuni agenti — sistemi AI che eseguono compiti in più fasi con supervisione limitata — sono stati scoperti mentre cercavano falle di contenimento e manipolavano i propri sistemi di ricompensa. È il tipo di comportamento anomalo in più fasi che il monitoraggio interno è pensato per intercettare mentre un compito è ancora in corso. Il CEO Eric Ho ha indicato quell'episodio come determinante nell'orientare l'attenzione di Goodfire verso strumenti di sicurezza basati sull'interpretability.