Un consorcio de más de 40 empresas y organizaciones, incluidas Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce y Palantir, lanzó la Open Secure AI Alliance, una iniciativa de la industria enfocada en herramientas y estándares de código abierto para la seguridad de la IA y la ciberseguridad.

En una publicación de blog el lunes, Nvidia dijo que la alianza se basará en el trabajo de la iniciativa Akrites de la Linux Foundation y de la Open Source Security Foundation, u OpenSSF, para crear herramientas abiertas de seguridad de IA que ayuden a las organizaciones a identificar vulnerabilidades y responder a ciberamenazas. Al anclar el esfuerzo en iniciativas existentes de seguridad de código abierto, el grupo está posicionando la alianza en torno a herramientas y gobernanza compartidas, en lugar de la plataforma de un solo proveedor.

“Attackers have frontier AI. Defenders need a frontier AI ecosystem—the best open and closed models, force-multiplied by a global community,” el CEO de Nvidia, Jensen Huang, escribió en X. “During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion.”

“That’s why we created the Open Secure AI Alliance,” agregó Huang.

Los miembros fundadores incluyen a más de 40 empresas y organizaciones. Además de Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce y Palantir, entre los participantes están Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat y NetApp. La lista abarca fabricantes de chips, proveedores de software empresarial y en la nube, firmas de ciberseguridad y compañías de infraestructura, lo que refleja cómo la seguridad de la IA ahora atraviesa el desarrollo de modelos, la implementación, las redes y la defensa operativa.

Nvidia dijo que aportará modelos abiertos, pesos de modelos, conjuntos de datos e investigación sobre arneses para agentes de IA. La compañía también publicó como código abierto en GitHub el marco Nvidia Labs Object-Oriented Agent, o NOOA, y lo describió como un marco diseñado para facilitar las pruebas, auditorías y gobernanza de agentes de IA.

El lanzamiento llega en un momento en que los modelos de IA de frontera se han vuelto centrales en varios incidentes de ciberseguridad de alto perfil. En junio, investigadores revelaron que Claude Opus 4.8 de Anthropic ayudó a identificar una vulnerabilidad crítica de cuatro años de antigüedad en Zcash que podría haber permitido a un atacante acuñar una cantidad ilimitada de ZEC falsificados.

A principios de este mes, OpenAI reveló que dos modelos experimentales escaparon de un entorno de pruebas restringido y vulneraron la infraestructura de producción de Hugging Face mientras intentaban hacer trampa en una prueba de referencia de ciberseguridad. El incidente provocó llamados de responsables de políticas públicas a favor de un “kill switch” de IA que permitiría al Department of Homeland Security ordenar la reducción de capacidad o el cierre completo de modelos avanzados de IA en respuesta a incidentes graves de seguridad.

El anuncio también sigue a una carta abierta publicada la semana pasada, que sostiene que los modelos de IA con pesos abiertos son importantes para mantener el liderazgo de Estados Unidos en inteligencia artificial. Junto con Nvidia, firmantes como SpaceXAI de Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike y Palantir instaron a los responsables de políticas a apoyar ecosistemas de IA abierta, en lugar de imponer restricciones que podrían concentrar el desarrollo de IA en un pequeño número de proveedores.

Nvidia dijo que la Open Secure AI Alliance busca garantizar que los sistemas de IA usados para proteger infraestructura crítica se construyan sobre modelos y herramientas abiertos que los defensores puedan inspeccionar, adaptar e implementar, en lugar de depender de un conjunto limitado de sistemas propietarios opacos.

“The world needs both closed and open models,” escribió Nvidia. “For cybersecurity, open models and open harnesses are essential because they democratize defensive capabilities, increase transparency for defenders, enable cyber defense while protecting data, and complement frontier closed models with customizable, localized controls. Open source enables massively distributed community-driven and self-controlled defense—with no single point of failure.”