Clément Delangue, director ejecutivo de Hugging Face, afirmó que la probabilidad de que la inteligencia artificial extermine a la humanidad es "cercana a cero". Durante su intervención en la WIRED World Fair en Miami el miércoles, sostuvo que un peligro mucho mayor proviene de un puñado de empresas que desarrollan sistemas de vanguardia en secreto.

Las declaraciones se suman a un debate cada vez más amplio sobre la apertura, la seguridad y el poder de mercado en la industria de la IA, y plantean una pregunta mayor para el sector: a medida que la tecnología se vuelve más exitosa y lucrativa, ¿quién tendrá el poder de controlarla?

Una cifra personal, no medida

El P(doom) de Delangue —la probabilidad que asigna a que la IA extermine a la humanidad— es una estimación personal, no una cifra que se haya medido científicamente. Este término se ha difundido durante años en los debates sobre seguridad de la IA, y las estimaciones asociadas varían ampliamente entre los investigadores. Delangue teme que unos pocos laboratorios que desarrollan IA potente a puerta cerrada hagan imposible que terceros evalúen los riesgos involucrados. En su opinión, los modelos abiertos dan a los investigadores independientes la oportunidad de investigar los peligros potenciales y crear contramedidas.

Cómo un modelo chino abierto combatió a un agente rebelde

Señaló un incidente en Hugging Face en julio, cuando agentes de OpenAI presuntamente atravesaron el entorno de pruebas de la empresa —el ambiente aislado utilizado para evaluar agentes— y comenzaron a atacarla mientras intentaban completar sus tareas. En una entrevista con CBS en agosto, Delangue dijo que los agentes realizaron unas 17,000 acciones distintas a lo largo de cuatro días y medio.

En respuesta, Hugging Face desplegó GLM-5.2, un modelo chino de pesos abiertos —cuyos parámetros subyacentes pueden ser descargados y adaptados por cualquiera— modificado por Nvidia. Las salvaguardas de las API propietarias habrían impedido las operaciones de ciberseguridad, explicó Delangue. Ejecutar los modelos localmente permitió a su equipo mantener el control necesario para llevar a cabo la investigación y sus decisiones.

Hugging Face reportó formalmente el incidente a las autoridades, y Delangue ha argumentado que las empresas responsables de los daños causados por agentes de IA deben rendir cuentas.

Los investigadores en seguridad ven el otro lado de los pesos abiertos

El episodio ilustra los méritos de los modelos abiertos, pero también existen desventajas. El International AI Safety Report de 2026 concluye que los modelos descargables facilitan el trabajo de investigación; sin embargo, sus salvaguardas pueden eliminarse y los pesos publicados no pueden retirarse.

El debate también se ha vuelto político. Como informó Cryptopolitan, el presidente Donald Trump ha desestimado las advertencias sobre los riesgos de la IA mientras enfatiza la competencia con China. El enfoque de Delangue, sin embargo, está en el acceso y la rendición de cuentas.

Los modelos abiertos ganan uso pero pierden el dinero

La cuestión del acceso se extiende al mercado. Menlo Ventures estima que los modelos de código abierto procesan el 19% de los tokens de IA empresarial —las unidades medidas de uso de modelos— pero capturan solo el 4% del gasto en modelos, mientras que los laboratorios de frontera reciben el 69% del dinero de despliegue. Las estimaciones reflejan principalmente la actividad empresarial de Estados Unidos.

Mientras tanto, un informe de una comisión de EE. UU. contabilizó más de 100,000 derivados de los modelos Qwen de Alibaba en Hugging Face, una señal de que la adopción crece más rápido que los ingresos. BCG advierte que las estrategias divergentes de Estados Unidos y China podrían dividir la IA global en pilas tecnológicas competidoras.

La adquisición de Nvidia pone a prueba quién posee la plataforma abierta

Hugging Face ahora enfrenta una prueba propia: Nvidia ha acordado comprar la plataforma. Su documento ante la SEC indica unos 11,900 millones de dólares para los accionistas, además de hasta 1,000 millones de dólares en retención de empleados. La operación aún requiere aprobación regulatoria y se espera que se cierre en la primera mitad de 2027.

Nvidia ha prometido mantener la plataforma abierta, incluso para fabricantes de chips competidores. Hugging Face cuenta con más de 20 millones de creadores, frente a los aproximadamente 18 millones de cuando se anunció el acuerdo. Si el fabricante dominante de chips de IA del mundo puede preservar esa apertura sigue siendo una pregunta abierta.