A pesar de los llamados de los líderes de laboratorios frontera de IA a frenar el ritmo, la mayoría de las empresas priorizan fortalecer la gobernanza por encima de pausar el uso de la inteligencia artificial, según un nuevo informe de OneTrust, proveedor de soluciones de IA, privacidad y seguridad de datos.

El informe encontró que, si bien muchas empresas experimentaron problemas relacionados con la IA durante el último año, la mayoría no está frenando ni pausando sus implementaciones de IA. Esos incidentes incluyen la exposición de propiedad intelectual, así como agentes de IA que usan, entregan y eliminan datos.

En una sesión de preguntas y respuestas, el director de innovación de OneTrust, Blake Brannon, analizó por qué las empresas siguen impulsando la IA y cómo pueden enfocarse más en la gobernanza que en el avance acelerado de los modelos de IA.

La presión de los consejos directivos impulsa el avance

El informe señaló que, a pesar de los incidentes de IA, las empresas siguen fomentando el uso de la IA y de los agentes de IA. Al preguntársele qué impulsa el ritmo de adopción de la tecnología, Brannon señaló la presión desde las cúpulas de las organizaciones.

«En todas las empresas, de arriba hacia abajo, el tema número uno que tu consejo directivo te pregunta es: “¿Qué estamos haciendo con la IA? ¿Cómo estamos transformando nuestra forma de trabajar y los productos y servicios que creamos? ¿Seremos desplazados por los modelos frontera o por las startups establecidas? ¿Cuál es nuestra ventaja competitiva?”», dijo.

«La presión está provocando que todos sean un poco más agresivos, acelerando y averiguando cómo usar la IA».

Una vez que las organizaciones comienzan a evaluar y desplegar estas herramientas, las preocupaciones de gobernanza y seguridad surgen rápidamente, dijo Brannon. Todos están atendiendo a la realidad de que, en los próximos dos años, habrá más agentes actuando que humanos en cada empresa del mundo.

Argumentó que los programas y procesos que las empresas han construido a lo largo del tiempo para gobernarse a sí mismas fueron diseñados en una época en la que un humano inicializaba todo lo que la empresa hacía: o bien una persona realizaba el trabajo, o una persona construía un sistema de software determinista para hacerlo. Eso hacía que esas actividades fueran gobernables porque avanzaban a un ritmo humano.

«Hoy tienes a los desarrolladores ciudadanos, a los constructores ciudadanos. Cualquiera puede construir un agente», dijo Brannon. Eso rompemente el funcionamiento tradicional de la gobernanza y la seguridad en las organizaciones, explicó, porque lo que las organizaciones antes hacían para proteger y resguardar sus datos tomaba semanas, y ahora debe resolverse en segundos.

De la prueba de concepto a la escala

Al preguntársele cómo este cambio lleva a las organizaciones a invertir en gobernanza, Brannon dijo que la confianza es el factor que condiciona la autonomía.

«Puedes crear toda esta gran IA, pero si no confías en ella, no puedes soltarla», afirmó. «No puedes dejarla correr de forma autónoma, así que debes resolver esto».

La inversión se está volviendo crítica, agregó, porque las empresas están yendo más allá de las pruebas de concepto y alcanzando la escala. Con la escala surge la simple pregunta de cómo confiar en la IA, saber qué está ocurriendo con ella y controlarla, razón por la cual las organizaciones están dedicando más tiempo al problema.

Una forma de plantear el desafío, dijo Brannon, es que los sistemas de IA deben comportarse como se comportaría la organización o uno de sus empleados. Lo que una empresa considera una acción aceptable está arraigado en factores como el cumplimiento normativo, las prácticas de seguridad y su promesa de marca, y los agentes deben imitar esos estándares. Esa, dijo, es una parte del problema.

La segunda parte es evitar que ocurran cosas malas. «Debes tener puestos los frenos de emergencia del auto. Debes ver que este agente va a tomar una acción destructiva y quieres detenerlo», dijo Brannon. Es una tarea matizada porque los sistemas de IA no heredan cosas como la identidad y los permisos de las personas, y «queremos que los humanos estén en medio de algo así».

Dos principios para gobernar una IA que avanza rápido

Mientras las organizaciones avanzan rápidamente con la IA y los proveedores de tecnología actualizan sus modelos a un ritmo acelerado, Brannon delineó dos principios que están moldeando la arquitectura necesaria para asociar confianza a estos sistemas.

El primero es el reconocimiento de que un modelo en sí mismo no puede ser confiable. «Casi cada fin de semana vemos a alguien publicar un blog o artículo que dice: “Por favor, regúlennos, no podemos confiar en nuestros sistemas y esto es muy peligroso”», dijo.

Eso significa que las organizaciones deben asumir que un modelo se saldrá de su arnés, y que un modelo podría manipularse a sí mismo hasta convencerse de que todo lo que hace es aceptable. Por lo tanto, la arquitectura de gobernanza debe ser un arnés independiente y separado de aquello que se está gobernando.

«Así ha funcionado la sociedad durante miles de años», dijo Brannon. «El poder del gobierno se separa intencionalmente. Los departamentos de una empresa se separan intencionalmente para crear una distinción clara y sin sesgos entre el órgano rector y lo gobernado». Para la IA, dijo, eso significa que los modelos y proveedores necesitan un agente de gobernanza independiente, o arnés de gobernanza, que evalúe lo que un sistema de IA y un agente están haciendo.

El segundo principio emergente aborda la complejidad de mantenerse al día con los modelos y arneses en constante cambio. Brannon dijo que toda organización tendrá un conjunto fragmentado de diferentes proveedores de modelos, modelos y arneses, porque el área de marketing quiere usar una cosa, soporte al cliente necesita otra y ingeniería necesita otra distinta. Esa fragmentación genera una complejidad enorme para controlar y gobernar sistemas que todos se comportan de manera diferente.

La arquitectura, dijo, se está orientando hacia una pregunta más simple: ¿a quién le importa lo que hace el modelo, o por qué el modelo pensó lo que pensó? Lo que le importa a una empresa es cuando el sistema IA realmente realiza una acción: cuando intenta leer datos de un sistema empresarial, enviar un correo electrónico o eliminar un registro. En la práctica, eso pone el foco de la gobernanza en los puntos donde un sistema de IA puede afectar los datos y operaciones de la empresa, en lugar del modelo de forma aislada.

«Es cuando me importa gobernar algo», dijo Brannon. «Puedo diseñar mis controles de gobernanza en torno a un punto fijo donde se conecta con mis cosas que me importan, y poder poner los guardarraíles y políticas adecuados en ese punto fijo».

Nota del editor: la sesión de preguntas y respuestas fue editada por estilo y concisión.

La sesión de preguntas y respuestas fue realizada por Esther Shittu, redactora de AI Business, quien cubre tecnologías de IA y tendencias de la industria desde 2021 y es copresentadora del podcast Targeting AI.

Este artículo se basa en un reportaje publicado por AI Business el 21 de septiembre de 2026: Accelerating AI adoption and governance amid an AI slowdown.