El CEO de Nvidia, Jensen Huang, ha descartado repetidamente las advertencias de que la inteligencia artificial representa una amenaza existencial para la humanidad, defendiendo con firmeza impulsar el desarrollo a toda velocidad.

En una entrevista con CBS News hace dos semanas, Huang declaró: “2030 no será el fin del mundo. Hay un 0% de probabilidad de que eso sea el fin del mundo”.

También arremetió contra otros líderes de la IA, incluidos Sam Altman de OpenAI y Dario Amodei de Anthropic, calificándolos de “irresponsables” por las “narrativas apocalípticas” que han difundido en informes recientes.

“Creo que las afirmaciones sobre el fin del mundo, sembrando el miedo en todo Estados Unidos, y que lo hagan las personas que lo hacen, no tienen sentido para mí, así que deben hacerlo por motivos ocultos”, dijo Huang. “Es irresponsable, y no sé cuáles son sus motivos”.

En un evento del G20 a inicios de septiembre, Huang argumentó que los gobiernos deberían regular el “daño real y pragmático” en lugar del “daño hipotético y teórico”. Comparó el desarrollo de la IA con la evolución de los automóviles, sugiriendo que la tecnología puede volverse más segura a medida que avanza. En julio, dijo a Axios que la idea de que la IA acabaría con la humanidad era “una completa tontería”, añadiendo que los responsables de políticas no deberían permitir que la “ciencia ficción” dirija las políticas de IA, y advirtió que Estados Unidos podría perjudicarse por temer demasiado a esta tecnología.

La fricción entre Huang y los líderes de OpenAI y Anthropic se centra en una de las preguntas más trascendentales de la IA: si el progreso rápido conlleva un riesgo catastrófico, y qué significa esa respuesta para la forma en que se debe gobernar la tecnología.

Ciertamente, mantener la IA a toda velocidad ayuda a Nvidia a vender más chips, aunque giro hacia la ciberseguridad para protegerse contra agentes de IA rebeldes también impulsaría la demanda de estos.

El contundente rechazo de Huang coincide con el presidente Donald Trump, quien lo llamó por teléfono mientras el CEO estaba en medio de una presentación para decirle que el pesimismo sobre la IA es “un fraude”. “La IA tomando el control del mundo, destruyendo la humanidad y todas las demás cosas malas, es un FRAUDE”, escribió Trump en septiembre en una publicación en Truth Social.

Eso no significa que Huang considere innecesarias las salvaguardas de la IA. Ha calificado la seguridad de la IA de “primordial”, al tiempo que insiste en que el desarrollo puede seguir avanzando rápidamente. “Si estamos comprometiendo la seguridad, eso no puede suceder”, dijo a CBS News. “Debemos ir lo más rápido que podamos, pero no más rápido de lo que deberíamos”.

El lunes, Nvidia puso en práctica esa postura al lanzar una nueva plataforma diseñada para evitar que los agentes de IA actúen de forma rebelde. La compañía dijo que su Open Agent Safety Platform está concebida para proporcionar un control “full-stack” sobre los agentes de IA, desde las pruebas hasta el despliegue, con capacidades de monitoreo destinadas a evitar que los agentes excedan la autoridad que se les ha otorgado.

El lanzamiento llega en un momento en que las empresas de IA enfrentan un número creciente de incidentes. Se han reportado múltiples casos de agentes de IA rebeldes, incluidos los de OpenAI, Google y Anthropic. Nvidia afirmó que su nuevo sistema de seguridad podría haber detenido el ataque a Hugging Face realizado por modelos de OpenAI.

“Por lo que sabemos, esta nueva plataforma de seguridad podría haber detenido la brecha si se hubiera utilizado en laboratorios de frontera para la evaluación temprana de modelos”, declaró Justin Boitano, vicepresidente y gerente general de computación empresarial de Nvidia, durante una sesión informativa con los medios.

Cómo funciona

Ante la avalancha de reportes sobre agentes de IA rebeldes, Nvidia aborda el problema a través de su Open Agent Safety Platform, que combina dos tecnologías: OpenShell y “Sentry”.

Según Nvidia, OpenShell coloca a los agentes de IA dentro de entornos aislados que restringen el acceso a archivos, herramientas, redes, credenciales y otros recursos, esencialmente estandarizando las restricciones que habrían evitado escapes anteriores.

Sentry es una capa externa que se ejecuta en las unidades de procesamiento datos de Nvidia para monitorear continuamente la actividad de los agentes. La compañía señala que si un agente intenta salir de su límite de software, Sentry puede ponerlo en cuarentena y detenerlo en cuestión de milisegundos.

“El extraordinario potencial de la IA para la sociedad solo se hará realidad si resolvemos la seguridad de la IA”, dijo Huang en un comunicado de prensa. “A medida que seguimos descubriendo la frontera de las capacidades de la IA, debemos acelerar el descubrimiento en la frontera de la seguridad de la IA. La seguridad y la protección requieren ingeniería full-stack”.

Si los laboratorios de frontera adoptan la plataforma precisamente para el tipo de evaluación de modelos que Boitano describió será una primera prueba de la respuesta de Nvidia a la seguridad basada en la ingeniería, y de si la fórmula de Huang de “ir lo más rápido que podamos, pero no más rápido de lo que deberíamos” puede mantenerse.

Esta historia fue publicada originalmente en Fortune.com.