Nvidia Corp. y una coalición de líderes de la industria lanzaron Open Secure AI Alliance, una iniciativa centrada en desarrollar tecnologías abiertas para proteger los sistemas y el software de inteligencia artificial frente a amenazas cibernéticas.

La alianza está diseñada para apoyar herramientas de seguridad impulsadas por la comunidad para la remediación de vulnerabilidades, formatos de modelos seguros y marcos de identidad de confianza cero para agentes de IA. Su formación se produce tras incidentes recientes de seguridad en IA, incluido un problema de seguridad de julio de 2026 en Hugging Face que puso de relieve las limitaciones de algunos modelos de IA de frontera alojados durante la respuesta a incidentes cibernéticos.

Open Secure AI Alliance se lanza bajo la Linux Foundation

El 27 de julio de 2026, Nvidia y un amplio grupo de organizaciones participantes anunciaron la formación de Open Secure AI Alliance. La iniciativa está alojada bajo la Linux Foundation y se basa en la iniciativa Akrites existente de la Linux Foundation, así como en el trabajo comunitario liderado por Open Source Security Foundation (OpenSSF).

La colaboración reúne a organizaciones de computación en la nube, ciberseguridad, software empresarial, desarrollo de código abierto e investigación en IA. Entre los participantes se encuentran Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI y TrendAI, entre otros.

La alianza busca desarrollar herramientas abiertas e infraestructura compartida que puedan ayudar a los defensores a proteger los sistemas de IA a medida que la tecnología se integra con mayor profundidad en el software, las operaciones empresariales y la infraestructura crítica. El esfuerzo refleja una preocupación creciente de seguridad en torno a los sistemas de IA agéntica, que pueden conectarse a herramientas, almacenes de datos y flujos de trabajo empresariales, lo que convierte los controles de identidad, permisos, registros y gestión de vulnerabilidades en parte de la pila de seguridad de IA, en lugar de asuntos de software separados.

El incidente de Hugging Face se cita como ejemplo de una necesidad de seguridad

El incidente de seguridad de julio de 2026 en Hugging Face fue citado como un ejemplo de por qué podrían ser necesarias herramientas flexibles de defensa cibernética habilitadas por IA. Durante la investigación forense, varios modelos de IA de frontera alojados se negaron a analizar artefactos de ataque porque sus barreras de ciberseguridad no podían distinguir entre un defensor y un atacante.

En su lugar, Hugging Face ejecutó el modelo de pesos abiertos GLM 5.2 en su propia infraestructura. Según el relato de la fuente, el modelo se utilizó para analizar más de 17,000 acciones y respaldar la respuesta al incidente.

El incidente puso de relieve un problema más amplio para los equipos de seguridad de IA: si las capacidades defensivas deben permanecer concentradas en un pequeño número de sistemas cerrados, o si las organizaciones también deben apoyarse en modelos, arneses y herramientas abiertos que puedan ser inspeccionados, adaptados e implementados por los defensores.

El software de código abierto ya respalda partes importantes de la computación en la nube, los servicios financieros, la manufactura, las telecomunicaciones, los sistemas gubernamentales y los servicios de internet al hacer que la tecnología sea accesible y observable para comunidades expertas. A medida que la IA se vuelve más central para la infraestructura crítica, la alianza sostiene que los equipos de seguridad necesitan acceso a capacidades de IA abiertas y autoalojadas, especialmente cuando los modelos comerciales están limitados por barreras de seguridad durante investigaciones defensivas.

Los miembros de la alianza detallan sus aportes técnicos

Open Secure AI Alliance afirma que la seguridad de la IA depende de toda la pila de agentes, incluida la identidad, los permisos, los arneses, las barreras de protección, los registros y los sistemas de evaluación. Nvidia está aportando modelos abiertos, pesos de modelos, datos y el marco de investigación de arneses de agentes Nvidia Labs Object Oriented Agent (NOOA).

HPE ayudará a avanzar la identidad de IA de confianza cero mediante SPIFFE/SPIRE, mientras que Hugging Face respaldará pesos de modelos seguros mediante Safetensors. IBM y Lightwell de Red Hat trabajarán para extender la seguridad en toda la cadena de suministro de código abierto mediante parches firmados digitalmente.

Microsoft está desarrollando MDASH para el escaneo de vulnerabilidades de agentes de IA, y SpaceXAI abrió el código de Grok Build para promover un desarrollo de IA transparente.

La alianza también dijo que los responsables de políticas y reguladores de IA deberían tratar los modelos abiertos, los arneses y las herramientas de seguridad como activos defensivos en la política de IA y ciberseguridad. Advirtió que las restricciones a los sistemas abiertos de IA de frontera podrían debilitar la capacidad defensiva y aumentar la dependencia de proveedores cerrados.

Open Secure AI Alliance está solicitando infraestructura compartida de defensa de IA, incluidos conjuntos de datos, marcos de evaluación, simuladores de ataque y herramientas de red teaming, para respaldar sistemas de IA más resilientes y seguros. Para los equipos de seguridad que evalúan la iniciativa, la prueba práctica será si estos aportes se convierten en herramientas interoperables que puedan adoptarse en distintos proveedores de modelos, entornos de nube e implementaciones empresariales de IA.