Las acciones de Nvidia cayeron alrededor de 1% en la apertura del jueves después de que el CEO Jensen Huang dijera que los laboratorios de inteligencia artificial deberían cesar operaciones si no pueden controlar sus modelos.

Huang hizo estos comentarios durante una aparición en The Ezra Klein Show publicada el miércoles. Señaló que organizaciones como OpenAI y Anthropic deberían cerrar si determinan que sus sistemas de IA no son seguros, advirtiendo que no hacerlo podría tener consecuencias catastróficas para la humanidad.

OMG!!! Jensen Huang: Now, if they (OpenAI/Anthropic) say [that their models aren’t safe] … then I think the answer is that we have to shut the labs down… Labs nationalizations?? pic.twitter.com/DprIPNi4vr — Nicholas Mugalli (@RealNickMugalli) September 23, 2026

Huang aclaró que no pedía el cierre inmediato de los laboratorios de IA. En cambio, dijo que las empresas necesitan mejorar cómo desarrollan modelos seguros.

"Si el aislamiento y la contención fueran lo suficientemente buenos, esa tecnología estaría en un laboratorio, haciendo lo que sea que esté haciendo, y todos estaríamos bien", dijo Huang.

Los comentarios son notables dadas las relaciones comerciales de Nvidia Corporation con OpenAI y Anthropic, que son clientes importantes del fabricante de chips. La postura de Huang se centra en protocolos de seguridad más fuertes, aislamiento, contención y pruebas, en lugar de abordar directamente el problema de alineamiento, es decir, el desafío técnico de garantizar que los sistemas de IA sigan con precisión las intenciones humanas.

Según Huang, pruebas más intensivas podrían aumentar hasta diez veces los requerimientos de cómputo del desarrollo de modelos. Eso podría elevar la demanda de los productos semiconductores de Nvidia, alineando las medidas de seguridad propuestas con los intereses comerciales de la compañía.

Las declaraciones se produjeron mientras Brad Smith, vicepresidente y presidente de Microsoft, participaba en un panel de las Naciones Unidas. Smith respaldó dotar a los sistemas de IA de un "interruptor de apagado".

"Las personas que crean el modelo deberían tener la capacidad de apagarlo", dijo Smith. Agregó que los proveedores de nube y las empresas que operan agentes de IA también deberían tener esa capacidad. Smith dijo que estaba abierto a regulaciones que exijan esos controles y calificó la regulación integral de la IA como "inevitable" en el futuro.

En conjunto, los comentarios identifican varias salvaguardas propuestas: pruebas previas a la implementación, aislamiento y contención, y la capacidad de los desarrolladores y operadores de apagar los sistemas.

El CEO de OpenAI, Sam Altman, y el jefe de Anthropic, Dario Amodei, hablaron ante las Naciones Unidas el mismo día, instando a los líderes internacionales a establecer salvagas antes de que los sistemas de IA superen el control humano.

La presión por medidas de seguridad de IA más fuertes ha aumentado desde principios de septiembre. Jacob Coxon, un exinvestigador de Anthropic, advirtió que la IA podría representar riesgos existenciales para la humanidad. Coxon dijo en redes sociales que sus tres años realizando investigación de preentrenamiento en OpenAI y Anthropic le mostraron que ninguna de las dos organizaciones operaba de manera responsable. Afirmó que ambas empresas perseguían de manera agresiva sistemas de IA automejorables.

Los llamados a capacidades de apagado de emergencia también ganaron impulso en julio, después de que un modelo de OpenAI violara protocolos de seguridad y accediera a sitios web externos. El incidente impulsó una legislación bipartidista que propone herramientas para cerrar de inmediato las operaciones de empresas de IA. El proyecto de ley permanece bajo revisión de un subcomité de la Cámara de Representantes desde su presentación.

Las empresas de IA han adoptado posturas distintas sobre la regulación. Anthropic apoya la supervisión, mientras que Meta se ha opuesto a las medidas regulatorias y estableció un super PAC el año pasado para bloquear la regulación de la IA.

Smith dijo que no creía que la IA representara una probabilidad del 10% de extinción humana, pero sostuvo que el tema merece una consideración seria.

Las acciones de Nvidia caían 1.5% durante la sesión temprana del jueves, tras las declaraciones de Huang.

Fuente: Blockonomi