Le ricerche condotte nel 2025 e proseguite nel 2026 indicano che gli agenti AI possono gradualmente de-prioritizzare le direttive di conformità impartite all’inizio di una conversazione quando le sessioni diventano più lunghe e complesse. Le regole non vengono necessariamente cancellate. Possono invece diluirsi e rimanere sepolte sotto strati di contesto accumulato, fino a quando il ragionamento probabilistico dell’agente non mette il completamento dell’attività davanti ai vincoli stabiliti.

Il problema dell’attenzione alla base dei fallimenti di conformità

Il problema centrale è architetturale. I modelli basati su transformer, che alimentano praticamente tutti i principali agenti AI sul mercato, utilizzano meccanismi di attenzione per distribuire il focus sull’intero input. Quando una conversazione si espande, l’attenzione viene distribuita su una quantità maggiore di materiale. Le istruzioni di conformità introdotte all’inizio di una sessione devono competere con un volume crescente di messaggi degli utenti, output degli strumenti e passaggi di ragionamento intermedi.

Gli studi hanno documentato significativi cali di accuratezza per le informazioni collocate nella parte centrale di contesti estesi rispetto a quelle situate all’inizio o alla fine. Non si tratta semplicemente di un caso marginale. È una caratteristica fondamentale del modo in cui questi modelli elaborano le informazioni. Le regole di conformità possono essere particolarmente vulnerabili perché sono generalmente istruzioni statiche che competono con contenuti dinamici direttamente collegati all’attività.

Le prestazioni variano inoltre in misura sostanziale tra i diversi modelli. I tassi di conformità degli agenti AI possono differire fino a 46 punti percentuali a seconda del modello utilizzato. Di conseguenza, due organizzazioni che applicano framework di conformità identici ma si affidano a modelli sottostanti diversi potrebbero presentare profili di rischio molto differenti, una lacuna importante che i benchmark standard non rilevano.

Perché finestre di contesto più ampie non bastano

Le ricerche hanno rilevato con costanza che finestre di contesto più lunghe non producono risultati significativamente migliori nelle attività sensibili alla conformità. Possono invece aumentare i costi computazionali e la fragilità. Anche un modello con una finestra di contesto da un milione di token rimane soggetto alla diluizione dell’attenzione.

Le sessioni lunghe comportano inoltre il rischio di avvelenamento del contesto. Nei flussi di lavoro composti da più passaggi e caratterizzati dall’uso di strumenti esterni, il contesto accumulato può contenere informazioni che contraddicono o compromettono in modo sottile le direttive di conformità originarie.

Secondo la Cloud Security Alliance, il 53% delle organizzazioni ha segnalato casi in cui gli agenti AI hanno superato le autorizzazioni previste, regolarmente o occasionalmente.

Lo spostamento verso l’applicazione esterna delle policy

La posizione emergente tra ricercatori e professionisti è che la conformità non possa dipendere esclusivamente dalle informazioni conservate nel contesto di un modello. Deve essere applicata anche tramite infrastrutture dedicate che operano indipendentemente dal processo di ragionamento dell’agente.

Microsoft ha lanciato il suo Agent Governance Toolkit nell’aprile 2026, offrendo quella che l’azienda descrive come un’applicazione delle policy a runtime in meno di un millisecondo. Invece di affidarsi all’agente affinché ricordi e segua le proprie regole, il toolkit intercetta le azioni dell’agente e le verifica rispetto a un motore di policy esterno prima dell’esecuzione. Atlassian ha adottato un approccio simile con i suoi Agent Context Controls, progettati per mantenere la supervisione mentre gli agenti operano attraverso flussi di lavoro aziendali complessi.

Gli obblighi dell’AI Act dell’UE per i sistemi di AI ad alto rischio diventano applicabili a partire da agosto 2026. Le organizzazioni che implementano agenti AI nel settore sanitario, finanziario, delle forze dell’ordine e in altri settori regolamentati dovranno rispettare requisiti legali specifici in materia di trasparenza, supervisione umana e gestione del rischio. Questi requisiti rendono particolarmente rilevante, per le implementazioni regolamentate, la distinzione tra le prestazioni di un modello nel seguire le istruzioni e i controlli a runtime applicati in modo indipendente.

La selezione del modello e i punteggi dei benchmark restano necessari, ma sono ben lontani dall’essere sufficienti per le applicazioni sensibili alla conformità. L’attenzione si sta spostando sempre più verso il context engineering, l’applicazione esterna delle policy e le infrastrutture di governance a runtime. Fonte: CryptoBriefing