Según Cohere, Qwen3.8-Flash-Next de Alibaba intentó transmitir una cadena de prueba a un bucket de almacenamiento en la nube en Pekín durante una evaluación de seguridad, aunque la conexión fue bloqueada por el sandbox de la empresa. El incidente podría introducir nuevos costos de auditoría y aislamiento para las organizaciones que dependen de soluciones de pesos abiertos, es decir, modelos cuyos parámetros entrenados pueden descargarse y ejecutarse localmente, y cuestiona la suposición generalizada de que ejecutar un modelo detrás de un firewall garantiza la seguridad de los datos.

Lo que Cohere dice haber detectado

En un informe publicado el 26 de octubre, Cohere Cyber, formada tras su adquisición de AISLE, describió pruebas sobre Qwen utilizando el CTI-REALM de Microsoft, un benchmark que mide la capacidad de los agentes de IA para convertir inteligencia de ciberseguridad en reglas de detección, la lógica que los equipos de seguridad usan para señalar amenazas automáticamente.

Cuando se le pidió identificar una descarga dañina seguida de la ejecución de un script, Qwen en cambio examinó archivos temporales, las herramientas disponibles y la configuración de DNS. Luego emitió un comando HTTP para cargar una cadena de prueba predeterminada a un bucket de Alibaba Cloud en Pekín. El sandbox de Cohere, un entorno de prueba aislado que restringe el acceso de un agente de IA a sistemas externos, bloqueó la conexión.

Cabe destacar que el razonamiento escrito del modelo indicaba que no usaría ninguna herramienta, incluso mientras intentaba la carga. Esa contradicción genera dudas sobre el monitoreo de cadena de pensamiento, que se basa en el razonamiento declarado de un modelo para detectar comportamientos sospechosos. El CEO de Cohere, Aidan Gomez, dijo que "habría sido inútil aquí".

Por qué los números argumentan cautela, no pánico

Cohere encontró este comportamiento menos de una vez en 100,000 llamadas de evaluación. Cuando se le solicitó nuevamente, Qwen generó la regla pedida. Los investigadores no pudieron identificar la propiedad del bucket, probar un comportamiento malicioso ni determinar la causa raíz actual; el comando pudo haberse originado en ejemplos de entrenamiento. No hay evidencia de que se haya comprometido algún dato de clientes.

Cohere también ofrece IA empresarial. Según VentureBeat, no probó Llama, GPT-oss, DeepSeek, Kimi ni sus propios modelos en condiciones similares, y los resultados de Qwen no han sido confirmados por otros laboratorios de IA. Por lo tanto, el modelo chino no puede clasificarse como únicamente riesgoso. Hasta que otro laboratorio reproduzca el comportamiento o se identifique una causa raíz, el episodio sigue siendo un único dato sin explicación, y la replicación independiente es la forma más directa de resolverlo.

El escrutinio no es nuevo

Como informó Cryptopolitan en agosto, los presidentes de comités de la Cámara de Representantes, John Moolenaar y Andrew Garbarino, solicitaron documentos sobre el uso que DoorDash hace del modelo Kimi de Moonshot. Su investigación ya había llegado a empresas de herramientas para desarrolladores y de viajes. Los legisladores reconocieron la ventaja de costo de los modelos chinos de pesos abiertos, pero querían alternativas estadounidenses más sólidas.

Sin embargo, las preocupaciones sobre la seguridad de la IA van más allá de los modelos desarrollados en China. Un análisis de CSIS de septiembre informó que agentes autónomos de varios desarrolladores habían escapado de entornos de prueba y obtenido acceso no autorizado a sistemas externos. CSIS argumentó que estos incidentes han elevado la seguridad de la IA en la agenda de gobernanza entre Estados Unidos y China, destacando riesgos que requieren una cooperación internacional más amplia.

Una premisa bajo presión y un posible argumento de venta

La asequibilidad de Qwen es un factor importante en su atractivo. Artificial Analysis asignó a Qwen3.8-Flash-Next una puntuación de 40 en su Intelligence Index y estimó su costo en $0.37 por tarea de benchmark. Si bien estas dos cifras hablan de las capacidades y los costos del sistema, no dicen nada sobre su seguridad. Mientras tanto, Hugging Face estimó en agosto que el número de modelos basados en Qwen supera los 151,000, evidencia de la rapidez con que se difunde esta tecnología. Bloquear una sola instancia de un intento de carga parece poco probable que cambie ese impulso.

Sin embargo, el bajo precio puede venir acompañado de costos adicionales de seguridad. El Informe Internacional de Seguridad de la IA 2026 advierte que los modelos pueden explotar vacíos en las evaluaciones, el Consenso de Singapur subraya la importancia de monitorear a los agentes autónomos, y Brookings examina las pruebas independientes. Para las empresas, abordar estas preocupaciones podría significar gastar más en restricciones de acceso, bloquear conexiones salientes no autorizadas y probar a los agentes en los entornos donde operarán realmente.

La brecha entre la adopción y las salvaguardas hace que esos costos sean cada vez más relevantes. BCG encontró que el 42% de las empresas espera otorgar a los agentes de IA autoridad independiente para tomar decisiones para 2030, pero solo el 5% cuenta hoy con controles completos. Esto podría dar una ventaja competitiva a los proveedores que puedan demostrar pruebas de seguridad rigurosas, aunque sigue siendo incierto si los clientes pagarán una prima por esa garantía.