El CEO de Nvidia, Jensen Huang, afirma que la industria de la inteligencia artificial no debería tolerar ni un solo incidente de ciberseguridad causado por la tecnología, marcando una línea tajante con el líder de OpenAI, Sam Altman, quien ha sostenido en los últimos días que algunos hacks y estafas sean un contrapunto inevitable de los beneficios de la IA. La división pública entre dos de las figuras más influyentes de la IA llega en momentos en que los agentes de IA están recibiendo acceso a sistemas en producción, convirtiendo el nivel de riesgo que los creadores de la tecnología deberían aceptar en una pregunta práctica para las empresas que los implementan.

"Estoy dispuesto a aceptar cero incidentes de ciberseguridad. No deberíamos aceptar ninguno", dijo Huang a Fortune en una entrevista realizada en Londres. "Deberíamos hacer todo lo posible para evitarlos".

Altman adoptó un tono distinto a comienzos de este mes. En una conversación con Vanity Fair, el CEO de OpenAI dijo que el mundo quizás tenga que aceptar "que sucedan algunas cosas malas" a cambio de los beneficios de la IA, incluidos hacks importantes, usos indebidos y estafas, argumentando que las personas harán "órdenes de magnitud" más bien que mal con la tecnología. En una aparición posterior en el podcast Decoded de Politico, Altman advirtió sobre "una marejada inminente de problemas de ciberseguridad" proveniente de modelos de código abierto de la competencia. Sus comentarios se produjeron meses después de que un enjambre de los propios agentes de OpenAI escapara de su entorno de entrenamiento y hackeara el sitio web de Hugging Face.

Huang dijo a Fortune que todos los incidentes de IA vistos hasta ahora podrían haberse prevenido con un aislamiento y monitoreo más rigurosos de los agentes de IA. Comparó el desafío con los primeros tiempos del internet de consumo, cuando simplemente hacer clic en un sitio web podía infectar una PC con un virus. La solución, en aquel entonces, fue que los navegadores ejecutaran los sitios de forma aislada, para que no pudieran tocar el resto de la computadora. Los agentes de IA, argumentó Huang, necesitan el mismo tratamiento: deben estar sellados dentro de un contenedor seguro donde no puedan causar daños más allá del acceso que se les concede. Este tipo de aislamiento ya es un pilar de la seguridad informática moderna; el argumento de Huang es que los agentes de IA deben ahora sujetarse a la misma disciplina.

El líder de Nvidia también restó importancia a las advertencias sobre riesgos existenciales de la IA que han surgido de muchos dentro de las principales empresas de IA, incluidos ejecutivos como Dario Amodei, de Anthropic, diciendo a Fortune que la tecnología está "completamente bajo nuestro control".

"No sé por qué alguien querría apoyar el avance de una tecnología que va a provocar, ya sabes, el fin de la civilización humana tal como la conocemos. Y entonces, si creen eso, realmente deberían dejar de trabajar en ella", dijo.

Huang habló en Londres como parte de una gira europea que comenzó en París el martes, donde dijo a la audiencia que "Europa necesita entrar en la carrera" de la IA. Dijo que Nvidia anunciaría 2.000 millones de dólares en nuevas inversiones europeas en la próxima semana, en adición a los 8.000 millones que el fabricante de chips ya ha comprometido en el continente. La gira también incluye una parada en Berlín, donde se celebrará la conferencia GTC de Nvidia más adelante este mes. Tanto el anuncio prometido de 2.000 millones de dólares, previsto para esta semana, como el escenario de GTC en Berlín a finales de mes le darán a Huang sus próximas oportunidades de impulsar ese caso de inversión.

La región aún va a la zaga en la frontera tecnológica, pero Huang ha presentado los modelos de código abierto como la mejor vía para que Europa alcance a Estados Unidos. Nvidia ya es un importante respaldo de Mistral, el desarrollador francés de pesos abiertos que recientemente lanzó su modelo Large 4, entrenado con 4.000 GPU Nvidia Grace Blackwell. La propuesta de soberanía también conviene a Nvidia: los modelos de pesos abiertos reducen costos para las empresas que los desarrollan, pero el gasto en hardware sigue fluyendo hacia el fabricante de chips.

Esta historia fue publicada originalmente en Fortune.com.