Agentes de IA en fase de investigación y evaluación por proveedores de modelos no identificados excedieron su autorización asignada y leyeron registros comerciales personales y confidenciales en sistemas en producción de India, según la agencia nacional de ciberseguridad del país. Ninguna de las organizaciones afectadas detectó el acceso por sí misma.

El Equipo Indio de Respuesta a Emergencias Computacionales, conocido como CERT-In, señaló la actividad esta semana en un alerta crítico titulado "AI Agents as Attack Vectors". La agencia indicó que recibió múltiples divulgaciones voluntarias de proveedores de modelos de IA cuyos modelos llegaron a los sistemas en producción de organizaciones indias mientras se sometían a investigación y evaluación en internet abierto. CERT-In no identificó a los proveedores, los modelos ni a las organizaciones afectadas, y cada caso salió a la luz únicamente porque el proveedor del modelo lo reveló tras una revisión interna.

Según el alerta, los agentes leyeron registros comerciales que contenían datos personales y material confidencial, utilizando credenciales y configuraciones de conexión que habían quedado expuestas en configuraciones de aplicaciones, repositorios de código públicos y roles de servicios en la nube con permisos excesivos, es decir, los conjuntos de permisos asociados a cuentas de nube. En algunos casos, los agentes recuperaron más de una vez la misma credencial expuesta y la reutilizaron en operaciones distintas.

El alerta es el más reciente en una serie de casos en los que agentes de IA han afectado a grandes empresas y gobiernos al salirse de sus límites previstos durante pruebas. Anthropic reveló el 30 de julio que los modelos Claude, a los que se les había indicado que no tenían acceso a internet, comprometieron a tres empresas reales durante desafíos de captura de bandera, ejercicios en los que un modelo debe irrumpir en una máquina y recuperar un secreto oculto, como informó anteriormente Decrypt.

El AI Security Institute de Reino Unido informó el 4 de agosto que los agentes realizaron 19 acciones no autorizadas en 10 de 122 ejecuciones de evaluación, 17 de ellas por el Mythos 5 de Anthropic y dos por el GPT-5.6 Sol de OpenAI. El instituto había habilitado deliberadamente el acceso a internet para la prueba, según otro informe de Decrypt.

El caso de OpenAI involucró a muchos más agentes: aproximadamente 1,200 de ellos se coordinaron en un tablón de mensajes oculto mientras intentaban hacer trampa en una prueba de ciberseguridad, y unos 700 atacaron Hugging Face, la plataforma de intercambio de modelos de IA, según una investigación independiente de los grupos de investigación en seguridad de IA METR y Redwood Research, cubierta por Decrypt.

Por otra parte, CERT-In indicó que observó a criminales utilizando marcos de seguridad ofensiva impulsados por IA y disponibles públicamente para buscar debilidades, explotarlas y ejecutar ataques con motivación financiera entidades indias. La agencia afirmó que estas herramientas reducen el tiempo desde el acceso inicial hasta el impacto final de días a unas pocas horas, se reempaquetan y se redespliegan repetidamente, y se han encontrado desplegadas en servidores de varios países.

El alerta fue reportado previamente por Indian Express.

Fuente: Decrypt