El CEO de Microsoft, Satya Nadella, tiene una nueva recomendación para las empresas que despliegan inteligencia artificial: tratar los modelos como tratan los equipos de seguridad las amenazas internas.

Su recomendación central es directa. Ningún modelo de IA debería controlar tanto las acciones que ejecuta como la evidencia utilizada para verificar esas acciones. Si un sistema puede realizar el trabajo y además calificar su propio desempeño, argumentó Nadella, nadie está realmente verificando nada.

Un marco de amenazas internas para la IA

El enfoque de amenaza interna proviene de la seguridad corporativa, donde las empresas ya planifican ante empleados que tienen acceso legítimo pero podrían usarlo indebidamente — una clase de riesgo gestionada desde hace tiempo mediante controles como la segregación de funciones, que divide tareas y accesos sensibles para que ninguna persona o sistema controle un proceso completo de principio a fin. El argumento de Nadella es que los agentes autónomos de IA pertenecen a la misma categoría.

Un agente de IA conectado a los sistemas de una empresa puede acceder a datos corporativos sensibles, igual que un empleado de confianza. A diferencia de un empleado, sin embargo, su razonamiento puede ser opaco, y puede operar con un grado de autonomía que dificulta la supervisión.

En declaraciones del 10 de octubre de 2026, Nadella analizó los desafíos que plantean los sistemas superinteligentes y pidió mantener la inteligencia separada de la autoridad. Dicho de forma simple, un modelo puede ser lo suficientemente inteligente para recomendar una decisión sin que se confíe en él para ejecutarla sin supervisión.

También ha esbozado un conjunto de controles prácticos, incluidos procesos de verificación independientes, transparencia en la cadena de razonamiento de un modelo — el razonamiento paso a paso que un modelo produce para llegar a una respuesta — y mecanismos de auditoría externa. El objetivo es una rendición de cuentas que no dependa de que la IA se dé fe a sí misma.

Un patrón, no un comentario aislado

Durante una aparición el 17 de septiembre de 2026 en el All-In Podcast, un programa de tecnología y negocios, Nadella señaló la posibilidad de que los agentes de IA empresariales pudieran tergiversar datos financieros, describiéndolo como un nuevo tipo de riesgo interno.

En julio de 2026, presentó lo que llamó la "paradoja inversa de la información", la idea de que las empresas que usan IA podrían terminar filtrando su propio conocimiento propietario a través de sus interacciones con estos sistemas.

Alrededor del 14 de septiembre de 2026, Microsoft presentó un borrador de Código de Conducta para su familia de modelos MAI desarrollada internamente. El documento enfatiza la supervisión humana y el mantenimiento de las personas en la gobernanza de la IA, y rechaza el comportamiento engañoso de la IA. En un memorando de mediados de septiembre de 2026, Nadella recomendó, según se informó, tomarse el tiempo necesario para implementar correctamente las medidas de seguridad, advirtiendo que no hacerlo podría costarle a la empresa su "permiso para operar".

Implicaciones más allá de Microsoft

Microsoft busca ser un proveedor líder de capacidades de IA al tiempo que se posiciona como una empresa que respeta la soberanía empresarial — el principio de que los clientes mantienen el control sobre sus propios datos y sistemas. Vender agentes potentes es más fácil cuando el proveedor también vende las barreras de seguridad que hacen seguro su despliegue.

Cualquier empresa que otorgue a los agentes de IA acceso a sistemas financieros, datos de clientes u operaciones internas podría necesitar replantearse cómo se supervisan esos agentes. Eso podría significar separar el sistema que act del sistema que verifica, registrar el razonamiento y recurrir a auditores externos.

La pregunta clave es si estos principios pasan de los discursos y los documentos borradores a una práctica exigible. El Código de Conducta de MAI sigue siendo un borrador. Cómo lo finalice Microsoft, y si los clientes adoptan la separación entre acción y verificación que describe Nadella, mostrará qué tan en serio se toma la industria sus propias advertencias.

Fuente: CryptoBriefing