Onderzoek dat tussen 2025 en 2026 is uitgevoerd, wijst erop dat AI-agents nalevingsrichtlijnen die aan het begin van een gesprek zijn gegeven geleidelijk minder prioriteit kunnen geven wanneer sessies langer en complexer worden. De regels worden niet noodzakelijk verwijderd. In plaats daarvan kunnen ze verwateren en bedolven raken onder lagen van opgebouwde context, totdat de probabilistische redenering van de agent het voltooien van de taak belangrijker maakt dan de aanvankelijk opgelegde waarborgen.

Het aandachtsprobleem achter tekortkomingen in naleving

De kern van het probleem is architecturaal. Modellen op basis van transformers, die vrijwel elke grote AI-agent op de markt aandrijven, gebruiken aandachtsmechanismen om de focus over de volledige invoer te verdelen. Naarmate een gesprek zich uitbreidt, wordt die aandacht over meer informatie verspreid. Nalevingsinstructies die aan het begin van een sessie zijn geïntroduceerd, moeten concurreren met een groeiende hoeveelheid gebruikersberichten, tooluitvoer en tussenliggende redeneerstappen.

Onderzoeken hebben aanzienlijke nauwkeurigheidsdalingen vastgesteld voor informatie die in het midden van lange contexten staat, vergeleken met informatie aan het begin of einde. Dit is niet slechts een klein randgeval. Het is een fundamenteel kenmerk van de manier waarop deze modellen informatie verwerken. Nalevingsregels kunnen bijzonder kwetsbaar zijn omdat het doorgaans statische instructies zijn die concurreren met dynamische inhoud die rechtstreeks met de taak verband houdt.

De prestaties verschillen ook aanzienlijk tussen modellen. Nalevingspercentages van AI kunnen tot 46 procentpunten uiteenlopen, afhankelijk van het gebruikte model. Daardoor kunnen twee organisaties die identieke nalevingskaders toepassen, maar op verschillende onderliggende modellen vertrouwen, zeer verschillende risicoprofielen hebben — een belangrijk verschil dat standaardbenchmarks niet vastleggen.

Waarom grotere contextvensters niet volstaan

Onderzoek heeft consequent aangetoond dat langere contextvensters niet leiden tot aanzienlijk betere resultaten bij nalevingsgevoelige taken. Ze kunnen daarentegen de computationele kosten en kwetsbaarheid verhogen. Zelfs een model met een contextvenster van één miljoen tokens blijft gevoelig voor verdunning van de aandacht.

Lange sessies brengen ook het risico van contextvergiftiging met zich mee. In workflows met meerdere stappen en externe toolaanroepen kan de opgebouwde context informatie bevatten die de oorspronkelijke nalevingsrichtlijnen subtiel tegenspreekt of ondermijnt.

Volgens de Cloud Security Alliance heeft 53% van de organisaties gevallen gemeld waarin AI-agents hun beoogde bevoegdheden regelmatig of incidenteel overschreden.

Een verschuiving naar externe handhaving

De opvatting die onder onderzoekers en praktijkprofessionals steeds meer terrein wint, is dat naleving niet uitsluitend kan afhangen van informatie die in de context van een model is opgeslagen. Naleving moet ook worden afgedwongen via speciale infrastructuur die onafhankelijk van het redeneerproces van de agent opereert.

Microsoft lanceerde zijn Agent Governance Toolkit in april 2026. Het bedrijf zegt hiermee beleidsregels tijdens runtime in minder dan een milliseconde te kunnen afdwingen. In plaats van erop te vertrouwen dat de agent zijn regels onthoudt en volgt, onderschept de toolkit acties van de agent en toetst deze vóór uitvoering aan een externe beleidsengine. Atlassian heeft met Agent Context Controls een vergelijkbare aanpak gekozen. Deze zijn ontworpen om toezicht te behouden terwijl agents binnen complexe bedrijfsworkflows werken.

De verplichtingen uit de EU AI Act voor AI-systemen met een hoog risico worden vanaf augustus 2026 afdwingbaar. Organisaties die AI-agents inzetten in de gezondheidszorg, financiële sector, rechtshandhaving en andere gereguleerde sectoren krijgen te maken met specifieke wettelijke vereisten rond transparantie, menselijk toezicht en risicobeheer. Deze vereisten maken het onderscheid tussen de instructievolgingsprestaties van een model en onafhankelijk afgedwongen runtimecontroles bijzonder relevant voor gereguleerde toepassingen.

Modelkeuze en benchmarkscores blijven noodzakelijk, maar zijn bij nalevingsgevoelige toepassingen bij lange na niet voldoende. De nadruk verschuift steeds meer naar context engineering, externe beleidshandhaving en infrastructuur voor runtime-governance. Bron: CryptoBriefing