Badania prowadzone w latach 2025 i 2026 wskazują, że agenci AI mogą stopniowo nadawać mniejszy priorytet dyrektywom dotyczącym zgodności wydanym na początku rozmowy, gdy sesje stają się dłuższe i bardziej złożone. Zasady niekoniecznie zostają usunięte. Zamiast tego mogą ulec rozmyciu i zostać pogrzebane pod warstwami nagromadzonego kontekstu, aż probabilistyczne rozumowanie agenta postawi ukończenie zadania ponad wytycznymi, które otrzymał.

Problem z mechanizmem uwagi stojący za niepowodzeniami w zakresie zgodności

Sedno problemu ma charakter architektoniczny. Modele oparte na transformatorach, które napędzają praktycznie każdego głównego agenta AI na rynku, wykorzystują mechanizmy uwagi do rozdzielania koncentracji na całym wejściu. W miarę rozszerzania się rozmowy uwaga jest rozpraszana na większej ilości materiału. Instrukcje dotyczące zgodności wprowadzone na początku sesji muszą konkurować z rosnącą liczbą wiadomości użytkownika, wyników działania narzędzi i pośrednich etapów rozumowania.

Badania udokumentowały znaczne spadki dokładności w przypadku informacji umieszczonych w środku długich kontekstów w porównaniu z informacjami znajdującymi się na początku lub na końcu. Nie jest to jedynie drobny przypadek brzegowy. To fundamentalna cecha sposobu, w jaki te modele przetwarzają informacje. Zasady zgodności mogą być szczególnie podatne na ten problem, ponieważ są na ogół statycznymi instrukcjami konkurującymi z dynamicznymi treściami bezpośrednio związanymi z zadaniem.

Wydajność różni się także znacząco między modelami. Wskaźniki zgodności AI mogą różnić się nawet o 46 punktów procentowych w zależności od używanego modelu. W rezultacie dwie organizacje stosujące identyczne ramy zgodności, ale korzystające z różnych modeli bazowych, mogą mieć zupełnie różne profile ryzyka — to istotna luka, której standardowe benchmarki nie wychwytują.

Dlaczego większe okna kontekstowe nie wystarczą

Badania konsekwentnie wykazują, że dłuższe okna kontekstowe nie zapewniają znacząco lepszych wyników w zadaniach wrażliwych na zgodność. Mogą natomiast zwiększać koszty obliczeniowe i podatność na błędy. Nawet model z oknem kontekstowym obejmującym milion tokenów nadal jest podatny na rozproszenie uwagi.

Długie sesje stwarzają również ryzyko zatrucia kontekstu. W wieloetapowych przepływach pracy obejmujących wywołania zewnętrznych narzędzi nagromadzony kontekst może zawierać informacje, które w subtelny sposób przeczą pierwotnym dyrektywom dotyczącym zgodności lub je podważają.

Według Cloud Security Alliance 53% organizacji odnotowało przypadki, w których agenci AI przekroczyli zamierzone uprawnienia — regularnie lub okazjonalnie.

Zwrot w stronę zewnętrznego egzekwowania zasad

Wyłaniający się pogląd wśród badaczy i praktyków zakłada, że zgodność nie może zależeć wyłącznie od informacji przechowywanych w kontekście modelu. Musi być również egzekwowana za pomocą dedykowanej infrastruktury działającej niezależnie od procesu rozumowania agenta.

Microsoft uruchomił swój Agent Governance Toolkit w kwietniu 2026 roku, oferując — jak opisuje to firma — egzekwowanie zasad w czasie wykonywania z opóźnieniem poniżej jednej milisekundy. Zamiast polegać na tym, że agent zapamięta swoje zasady i będzie ich przestrzegał, narzędzie przechwytuje działania agenta i sprawdza je w zewnętrznym silniku zasad przed wykonaniem. Atlassian przyjął podobne podejście dzięki rozwiązaniu Agent Context Controls, które ma zapewniać nadzór podczas pracy agentów w złożonych przepływach korporacyjnych.

Obowiązki wynikające z unijnego aktu o sztucznej inteligencji dla systemów AI wysokiego ryzyka stają się egzekwowalne od sierpnia 2026 roku. Organizacje wdrażające agentów AI w ochronie zdrowia, finansach, organach ścigania i innych regulowanych sektorach będą musiały spełnić konkretne wymogi prawne dotyczące przejrzystości, nadzoru człowieka i zarządzania ryzykiem. Wymogi te sprawiają, że różnica między skutecznością modelu w wykonywaniu instrukcji a niezależnie egzekwowanymi kontrolami w czasie wykonywania nabiera szczególnego znaczenia w regulowanych wdrożeniach.

Wybór modelu i wyniki benchmarków pozostają konieczne, ale są dalekie od wystarczających w zastosowaniach wrażliwych na zgodność. Nacisk coraz bardziej przesuwa się w stronę inżynierii kontekstu, zewnętrznego egzekwowania zasad i infrastruktury zarządzania w czasie wykonywania. Źródło: CryptoBriefing