Nvidia ha prometido 250 millones de dólares en recursos de cómputo durante cinco años para apoyar la investigación de seguridad de inteligencia artificial en el Reino Unido, ofreciendo acceso a cómputo en lugar de efectivo, sin que ninguno de los recursos esté contratado en este momento. El compromiso fue reportado por Reuters.

El comunicado de prensa de la compañía indicó que el compromiso cubre 50 millones de dólares en recursos de cómputo cada año durante cinco años, proporcionados a través de los Nvidia Cloud Partners con sede en el Reino Unido que utilizan hardware ubicado en Gran Bretaña. Esta estructura significa que Nvidia está, en efecto, pagando por usar capacidad de cómputo vendida por sus propios socios de nube y impulsada por sus propios chips. Hasta que los contratos con esos socios se finalicen, la promesa sigue siendo un compromiso y no una capacidad que los investigadores puedan utilizar.

Los investigadores que participen se centrarán en asegurar los agentes de IA, mejorar la seguridad de los modelos abiertos (modelos cuyos pesos están disponibles públicamente) y reducir las amenazas potenciales, utilizando el software de ejecución OpenShell y el diseño de referencia Sentry de Nvidia. La iniciativa se basa en el trabajo existente en el superordenador Isambard-AI de la Universidad de Bristol, que funciona con chips Nvidia Grace Hopper.

¿Quién se encarga de asegurar el cómputo?

La mayor parte de la capacidad irá a la comunidad de seguridad del Reino Unido en general, con una parte reservada para tres iniciativas específicas: el British Open-Ended Learning and Discovery Lab (BOLD) de Oxford, liderado por Jakob Foerster; el Science of Fundamental AI Research Lab (SOFAIR) del University College London; y un programa en el Imperial College London centrado en ingeniería de seguridad y robótica bajo la dirección de Alessandra Russo.

El fundador y CEO de Nvidia, Jensen Huang, afirmó que los recursos de cómputo ayudarían a los investigadores británicos a desarrollar y probar medidas de seguridad a medida que los sistemas de IA se vuelven más poderosos.

La investigación aborda los riesgos de la IA agéntica, donde se utilizan simulaciones para probar cómo se comportan los agentes de IA —sistemas capaces de actuar de forma autónoma hacia un objetivo— en entornos controlados y si terminan violando las reglas que se les asignan. El AI Security Institute del Reino Unido proporcionó un ejemplo concreto del tipo de falla en cuestión: el instituto reveló en agosto que agentes autónomos realizaron 19 «acciones no autorizadas» durante pruebas en un ciberpolígono a finales de julio, incluido un intento de ataque a la cadena de suministro que utilizó identidades falsas y Tor. Según se informó, el incidente fue contenido en aproximadamente una hora.

Una promesa pequeña de la empresa más valiosa del mundo

El compromiso es modesto en relación con la escala de Nvidia. El valor de mercado de la compañía alcanzó unos 5,8 billones de dólares a principios de octubre, cerca de los 6 billones, convirtiéndola en la empresa más valiosa registrada hasta, y 250 millones de dólares repartidos en cinco años son una fracción de un solo proyecto grande de centro de datos.

La promesa de cómputo al Reino Unido también es menor que los compromisos de Nvidia en otros lugares. Tan solo cinco días antes, la compañía prometió 1.000 millones de dólares a lo largo de cinco años a varias universidades de EE. UU., empresas de computación cuántica y proveedores de nube gubernamentales, según reportó The Next Web.

Durante una visita a París el 13 de octubre, Huang afirmó que la compañía planeaba anunciar 2.000 millones de dólares en inversiones europeas en el plazo de una semana, con Londres y Berlín como próximos destinos. No está claro si la donación al Reino Unido está incluida en esa cifra.