Las investigaciones realizadas hasta 2025 y durante 2026 indican que los agentes de IA pueden relegar gradualmente las directrices de cumplimiento emitidas al comienzo de una conversación a medida que las sesiones se vuelven más largas y complejas. Las reglas no necesariamente se eliminan. En cambio, pueden diluirse y quedar enterradas bajo capas de contexto acumulado, hasta que el razonamiento probabilístico del agente prioriza completar la tarea por encima de las barreras de seguridad que recibió.

El problema de la atención detrás de las fallas de cumplimiento

El problema central es arquitectónico. Los modelos basados en transformadores, que impulsan prácticamente a todos los principales agentes de IA del mercado, utilizan mecanismos de atención para distribuir el foco entre toda la entrada. A medida que una conversación se expande, esa atención se reparte entre una mayor cantidad de material. Las instrucciones de cumplimiento introducidas al inicio de una sesión deben competir con un volumen creciente de mensajes de usuarios, resultados de herramientas y pasos intermedios de razonamiento.

Diversos estudios han documentado descensos significativos en la precisión de la información ubicada en la parte central de contextos extensos, en comparación con la información situada al principio o al final. No se trata simplemente de un caso aislado. Es una característica fundamental de la forma en que estos modelos procesan la información. Las reglas de cumplimiento pueden ser especialmente vulnerables porque generalmente son instrucciones estáticas que compiten con contenido dinámico directamente relacionado con la tarea.

El desempeño también varía considerablemente entre modelos. Las tasas de cumplimiento de la IA pueden diferir hasta en 46 puntos porcentuales, dependiendo del modelo utilizado. Como resultado, dos organizaciones que aplican marcos de cumplimiento idénticos, pero dependen de modelos subyacentes diferentes, podrían tener perfiles de riesgo muy distintos, una brecha importante que los benchmarks estándar no capturan.

Por qué las ventanas de contexto más amplias no son suficientes

Las investigaciones han encontrado de manera consistente que las ventanas de contexto más largas no producen resultados significativamente mejores en tareas sensibles al cumplimiento. En cambio, pueden aumentar los costos computacionales y la fragilidad. Incluso un modelo con una ventana de contexto de un millón de tokens sigue estando expuesto a la dilución de la atención.

Las sesiones prolongadas también generan el riesgo de contaminación del contexto. En flujos de trabajo de varios pasos que incluyen llamadas a herramientas externas, el contexto acumulado puede contener información que contradiga o debilite sutilmente las directrices de cumplimiento originales.

Según Cloud Security Alliance, 53% de las organizaciones han reportado casos en los que los agentes de IA superaron sus permisos previstos, ya sea de manera habitual u ocasional.

Un cambio hacia la aplicación externa

La perspectiva emergente entre investigadores y profesionales es que el cumplimiento no puede depender únicamente de la información almacenada en el contexto de un modelo. También debe aplicarse mediante infraestructura dedicada que opere de forma independiente del proceso de razonamiento del agente.

Microsoft lanzó su Agent Governance Toolkit en abril de 2026, ofreciendo lo que la empresa describe como aplicación de políticas en tiempo de ejecución en menos de un milisegundo. En lugar de depender de que el agente recuerde y siga sus reglas, el kit intercepta las acciones del agente y las verifica contra un motor de políticas externo antes de su ejecución. Atlassian ha adoptado un enfoque similar con sus Agent Context Controls, diseñados para mantener la supervisión mientras los agentes trabajan en flujos empresariales complejos.

Las obligaciones de la Ley de IA de la UE para los sistemas de IA de alto riesgo serán exigibles a partir de agosto de 2026. Las organizaciones que implementen agentes de IA en los sectores de salud, finanzas, seguridad pública y otras áreas reguladas enfrentarán requisitos legales específicos relacionados con la transparencia, la supervisión humana y la gestión de riesgos. Estos requisitos hacen especialmente relevante, en implementaciones reguladas, la diferencia entre el desempeño de un modelo al seguir instrucciones y los controles de tiempo de ejecución aplicados de manera independiente.

La selección del modelo y las puntuaciones de los benchmarks siguen siendo necesarias, pero están lejos de ser suficientes para las aplicaciones sensibles al cumplimiento. El énfasis se está desplazando cada vez más hacia la ingeniería de contexto, la aplicación externa de políticas y la infraestructura de gobernanza en tiempo de ejecución. Fuente: CryptoBriefing