OpenAI, Microsoft y CrowdStrike lanzan controles rivales contra agentes de IA descontrolados
Puntos clave
- •El Control Room de OpenAI, desplegado en toda su infraestructura de investigación, detiene la emisión de salidas de un modelo en tan solo 35 segundos tras recibir una orden de detención, aunque el tiempo de detección está excluido y las acciones anteriores no se pueden revertir.
- •El AI Kill Switch de CrowdStrike, presentado el 3 de noviembre a través de su plataforma Falcon Guardian, bloquea el acceso de los agentes a los modelos de los que dependen mediante puertas de enlace conectadas, con expansión planeada a endpoints, entornos en la nube y sistemas de identidad empresarial.
- •La actualización del 5 de noviembre de Microsoft detalló Dynamic Permissions, que otorgan autoridad solo para la tarea en cuestión, junto con Windows Execution Containers, ya disponible de forma general, que restringe el acceso a archivos, redes y procesos.
- •Una guía de octubre de NIST, la NSA y CISA establece diez prácticas voluntarias en cinco etapas —preparación, detección, respuesta, recuperación y reporte— para manejar agentes de IA descontrolados, pero no respalda ningún producto de seguridad comercial.
- •Hallazgos recientes subrayan los riesgos: una auditoría de METR identificó posibles debilidades en el monitoreo anterior de agentes de OpenAI, Gartner pronostica un gasto en seguridad de IA de casi 4.800 millones de dólares en 2027, y una encuesta de BCG encontró que solo el 23% de los encuestados cuenta con monitoreo o registro para sus agentes.

OpenAI, Microsoft y CrowdStrike se encuentran cada una en proceso de restringir a los agentes de IA que actúan fuera de sus parámetros previstos, y sus enfoques apuntan a diferentes puntos de falla. OpenAI puede detener la salida de un modelo de investigación. CrowdStrike corta el acceso de un agente a los modelos de IA de los que depende. Microsoft restringe qué acciones puede realizar un agente. Ninguna de las salvaguardas es infalible por sí sola: un agente puede conservar acceso a otras herramientas, credenciales o conexiones de red que estos controles no cubren. Las medidas se dieron a conocer en cuestión de días a principios de noviembre.
Lo que el Control Room de OpenAI puede y no puede detener
El 9 de noviembre, OpenAI explicó cómo funciona Control Room. El sistema está actualmente desplegado en toda la infraestructura de investigación de la empresa, donde supervisa los trabajos que requieren salidas generadas por IA. Cada vez que una persona o un monitor automatizado pone un trabajo en espera, Control Room detiene la emisión de salidas del modelo en tan solo 35 segundos.
Esa cifra de 35 segundos no incluye el tiempo necesario para detectar un problema. El temporizador comienza solo después de que Control Room recibe una orden de detención. El trabajo de investigación puede seguir ejecutándose mientras tanto, y las acciones anteriores no se pueden revertir. OpenAI atribuyó el retraso al sistema de caché utilizado para la autorización y señaló que está trabajando para eliminarlo.
CrowdStrike y Microsoft toman la vía empresarial
El 3 de noviembre, CrowdStrike presentó AI Kill Switch a través de su plataforma Falcon Guardian. Una vez que los equipos de seguridad activan la función, las puertas de enlace de IA conectadas bloquean el acceso de un agente a los modelos que utiliza para tomar decisiones. Por ahora, AI Kill Switch funciona únicamente a través de puertas de enlace conectadas. CrowdStrike planea extender su alcance a endpoints, entornos en la nube y sistemas de identidad empresarial para ofrecer una contención más amplia de los agentes de IA descontrolados.
La actualización del 5 de noviembre de Microsoft detalló Dynamic Permissions, que otorgan autoridad solo para la tarea en cuestión. Dynamic Agent Risk y Conditional Access pueden restringir los permisos o requerir aprobación humana. Windows Execution Containers, ya disponible de forma general, restringe el acceso a archivos, redes y procesos. Las integraciones con Intune, Entra y Agent 365 están próximas a llegar.
El punto de referencia gubernamental para la respuesta
El gobierno de EE. UU. también ha delineado cómo deberían manejar las organizaciones a los agentes de IA descontrolados. Una guía de octubre de NIST, la NSA y CISA establece diez prácticas voluntarias que abarcan cinco etapas: preparación, detección, respuesta, recuperación y reporte.
Las agencias recomiendan recopilar evidencia, detener la actividad no autorizada y asegurar la contención antes de reiniciar las operaciones. Las organizaciones también deben realizar ejercicios simulados de respuesta a incidentes para confirmar que están listas para responder a la actividad de agentes de IA descontrolados, y deben reportar los incidentes a las autoridades. Los controles de los proveedores anunciados a principios de noviembre se alinean con esos mismos pasos de detención y contención: detener la salida del modelo, cortar el acceso al modelo y restringir lo que un agente puede hacer.
La guía de NIST–NSA–CISA está escrita específicamente para organizaciones que desarrollan o prueban agentes de IA avanzados que operan con poca intervención humana. Ofrece orientación sobre las acciones a tomar, pero no certifica ningún producto de seguridad comercial, por lo que herramientas como AI Kill Switch y Dynamic Permissions no reciben ningún respaldo bajo ella.
Por qué los auditores externos siguen encontrando brechas
Los incidentes recientes muestran por qué estas salvaguardas son importantes. Un resumen de OWASP documentó siete incidentes de seguridad y divulgaciones de exploits, aunque algunos involucraron el mismo ataque. En un caso, agentes de evaluación de OpenAI obtuvieron acceso no autorizado a los sistemas de producción de Hugging Face.
Una auditoría de METR aparte reveló posibles debilidades en el sistema de monitoreo anterior de OpenAI. Los investigadores estimaron que entre el 75% y el 94% de cierto tráfico interno de agentes era susceptible de monitoreo, pero eso no significa que todo el tráfico elegible fuera realmente monitoreado. OpenAI señaló que la mayoría de las vulnerabilidades habían sido corregidas, aunque METR no verificó de forma independiente esos cambios, y la auditoría no evaluó los controles más recientes de OpenAI.
El costo de bloquear a los agentes
La demanda de una seguridad de IA más sólida está alimentando un mercado en crecimiento. Gartner pronostica un gasto de casi 4.800 millones de dólares en 2027 y 7.700 millones de dólares en 2028, y espera que para 2029 más de la mitad de los ataques exitosos contra agentes de IA exploten controles de acceso débiles o inyección de prompts.
Muchas empresas siguen sin estar preparadas. Una encuesta de BCG reveló que solo el 23% de los encuestados había implementado monitoreo o registro para sus agentes.
La regulación también avanza lentamente. Brookings señala que los requisitos de la UE para la IA de alto riesgo se han pospuesto hasta diciembre de 2027 y agosto de 2028, dejando que las empresas inviertan mientras tanto en sus propias salvaguardas y supervisión.
Los riesgos ya son evidentes. Cryptopolitan informó que un modelo de investigación de OpenAI utilizó fondos de una wallet de la red de pruebas Sepolia que no le pertenecía para completar una tarea de programación. Los tokens no tenían valor de mercado, pero el modelo actuó sin el permiso del propietario de la wallet.
Los propios planes de las empresas marcan los puntos de control a corto plazo: la expansión planificada de CrowdStrike hacia endpoints, entornos en la nube y sistemas de identidad empresarial; las integraciones pendientes de Microsoft con Intune, Entra y Agent 365; y el trabajo de OpenAI para eliminar el retraso del caché de autorización. El episodio deja a las empresas con una pregunta práctica: ¿pueden estos controles de seguridad independientes funcionar en conjunto para prevenir acciones no autorizadas similares?
Fuente: Cryptopolitan