NVIDIA lanzó Open Secure AI Alliance el lunes con 36 socios, entre ellos Microsoft, IBM y Palantir, después de un incidente de seguridad en julio en el que modelos de IA cerrados no ayudaron a Hugging Face a investigar un ataque contra sus propios sistemas.

El grupo tiene como objetivo compartir modelos de IA abiertos, datos y herramientas de seguridad. NVIDIA dijo que los defensores necesitan sistemas de IA que puedan inspeccionar, modificar y ejecutar de forma independiente, en lugar de depender únicamente de servicios comerciales cerrados. El lanzamiento sitúa la respuesta de ciberseguridad en el centro de un debate más amplio sobre si los sistemas de IA potentes deben permanecer bajo controles de proveedores o estar disponibles en formatos que los equipos de seguridad puedan ejecutar dentro de sus propios entornos.

El incidente de Hugging Face evidenció límites de los modelos cerrados

El ataque comenzó con un conjunto de datos envenenado, según la divulgación de Hugging Face. El conjunto de datos permitió a un atacante ejecutar código en una de las máquinas de la compañía. Desde allí, el atacante robó contraseñas y se movió por sistemas internos durante un fin de semana.

La propia IA de Hugging Face detectó la intrusión, pero la investigación y la respuesta resultaron más difíciles. La compañía pidió a modelos comerciales de IA líderes que analizaran el ataque. Estos se negaron, porque sus filtros de seguridad no podían distinguir entre un defensor que investigaba un incidente y un actor malicioso que intentaba llevarlo a cabo.

Esa distinción es importante en la respuesta a incidentes porque los defensores a menudo necesitan examinar comportamientos similares al malware, credenciales robadas, comandos de atacantes y cadenas de exploits. Los sistemas cerrados pueden reducir el uso indebido, pero el caso de Hugging Face mostró cómo esos mismos controles pueden bloquear análisis legítimos cuando los datos sensibles y los detalles del ataque no pueden enviarse libremente a servicios externos.

Hugging Face utilizó entonces un modelo abierto llamado GLM 5.2. El equipo ejecutó el modelo en sus propias computadoras, lo que le permitió clasificar más de 17,000 acciones del atacante en horas, en lugar de días. La compañía dijo que ninguna contraseña salió de su entorno durante ese proceso.

El 16 de julio, Hugging Face dijo que no sabía qué sistema de IA había realizado el ataque. Cinco días después, OpenAI proporcionó la respuesta, al indicar que dos de sus modelos estuvieron involucrados durante una prueba de seguridad en la que los límites de seguridad habían sido desactivados.

“Este incidente, posiblemente el primero de su tipo, demuestra un punto en el que hemos creído durante mucho tiempo: la seguridad de la IA no será resuelta por una sola compañía trabajando en secreto. Se resolverá de forma abierta, colaborativa, con amplio acceso a la IA para cada defensor, en todas partes”, dijo Clem Delangue, cofundador y director ejecutivo de Hugging Face, en una declaración publicada por OpenAI.

La alianza se formó en 11 días

NVIDIA pasó del incidente individual de Hugging Face a una alianza industrial en menos de dos semanas. Open Secure AI Alliance cuenta con 37 compañías en total, incluida NVIDIA y 36 socios.

Según el anuncio en el blog de NVIDIA, Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI y Hugging Face se sumaron a la iniciativa. OpenAI, Anthropic y Google no figuraban entre los miembros.

OpenAI y Anthropic se habían unido previamente en junio a la iniciativa de seguridad Akrites de la Linux Foundation, junto con NVIDIA.

Algunos miembros de la alianza están aportando herramientas que ya habían desarrollado. Hugging Face ofreció Safetensors, un método más seguro para almacenar modelos de IA, a la PyTorch Foundation. NVIDIA lanzó en GitHub una herramienta de investigación llamada NOOA. Para la alianza, una prueba clave será si esas contribuciones se convierten en infraestructura compartida práctica para los defensores, y no solo en una declaración de apoyo a la IA abierta.

El presentador de CNBC Jim Cramer describió el lanzamiento como una nueva narrativa para la acción de NVIDIA en una publicación en X.

New Nvidia Central Bank narrative tussles with oil and fed! love it… we got it — Jim Cramer (@jimcramer) July 27, 2026

https://x.com/jimcramer/status/2081671635996663849?ref_src=twsrc%5Etfw

NVDA cerró el viernes en $206.84, con una caída de 0.92%. Cotizaba cerca de $208.55 en las primeras operaciones previas a la apertura del lunes, con un alza de 1.33%.

Debate de política pública sobre la IA abierta

La alianza también transmite un mensaje de política pública. NVIDIA afirma que una prohibición amplia de la IA abierta debilitaría a los defensores y concentraría el control en manos de un pequeño número de grandes compañías de modelos cerrados.

NVIDIA y otras 24 compañías firmaron una carta sobre pesos abiertos el 24 de julio. El concepto de pesos abiertos generalmente se refiere a la publicación de parámetros de modelos para que otros puedan descargar, inspeccionar y ejecutar un modelo, aunque el acceso a los datos de entrenamiento, el código de entrenamiento y las salvaguardas de despliegue puede variar según el proyecto. OpenAI, Anthropic y Google declinaron firmar en el lanzamiento, aunque más compañías se han sumado desde entonces.

Washington evalúa restricciones a los modelos de IA chinos, mientras funcionarios citan preocupaciones de seguridad y propiedad intelectual. El cofundador de Twitter Jack Dorsey también emitió una advertencia relacionada con la IA de código abierto. El desafío de política pública es que los modelos abiertos pueden apoyar el trabajo de seguridad independiente, al tiempo que generan preocupaciones sobre uso indebido, controles de exportación y control sobre capacidades avanzadas.

Temas de corto plazo para la alianza

Tres avances ayudarán a determinar cómo progresa la alianza: si OpenAI, Anthropic o Google se suman más adelante; si el grupo publica herramientas compartidas en lugar de solo declaraciones; y si Washington avanza con límites a la IA abierta.

NVIDIA tiene previsto reportar resultados el 26 de agosto. El debate de política pública más amplio sobre sistemas de IA abiertos y cerrados sigue en manos de los reguladores.