Los modelos de IA de pesos abiertos han recibido el respaldo público de una coalición de destacados ejecutivos tecnológicos de EE. UU., entre ellos el CEO de NVIDIA, Jensen Huang; el CEO de OpenAI, Sam Altman; el CEO de Microsoft, Satya Nadella; y el CEO de Meta, Mark Zuckerberg. Los líderes sostienen que la IA de pesos abiertos amplía la competencia, fortalece la seguridad y facilita el acceso a herramientas avanzadas de IA, e instan a los responsables de políticas a apoyar los modelos de pesos abiertos en lugar de imponer restricciones amplias a la IA avanzada. El respaldo se produce en medio de un activo debate político en Washington sobre cómo regular el desarrollo de la IA, que incluye discusiones sobre controles de exportación, requisitos de reporte para modelos frontera y cómo Estados Unidos puede mantener su competitividad frente a China en capacidades avanzadas de IA.

El respaldo conjunto se produjo después de que NVIDIA publicara una carta titulada «Open Weights and American AI Leadership», la cual sostiene que los modelos de IA descargables y modificables pueden fortalecer la competencia, ampliar el acceso a herramientas de IA, mejorar la ciberseguridad e impulsar la innovación estadounidense. Huang compartió la carta en una publicación en X, mientras que Altman, Nadella y Zuckerberg respaldaron su mensaje a través de publicaciones separadas.

Los líderes de la industria expresan su apoyo

Jensen Huang afirmó que el mundo necesita tanto modelos frontera cerrados como modelos frontera abiertos, argumentando que los modelos abiertos refuerzan la seguridad, la ciberseguridad, la innovación y la soberanía nacional. Su publicación en X se puede encontrar aquí.

Sam Altman respondió que desea que Estados Unidos lidere tanto en modelos de IA de código abierto como propietarios, y dio la bienvenida a la iniciativa. Su respuesta está disponible aquí.

Mark Zuckerberg describió el código abierto como una fuerza importante que empodera a las personas y ayuda a prevenir la centralización. Su publicación es accesible aquí.

Satya Nadella también respaldó la iniciativa, afirmando que los modelos de pesos abiertos son esenciales para un ecosistema de IA saludable y pueden fortalecer la competitividad de EE. UU. al mismo tiempo que amplían las oportunidades económicas y protegen la seguridad nacional. Su respaldo está disponible aquí.

La amplitud de la coalición es notable si se tiene en cuenta que las empresas participantes operan bajo diferentes estrategias de IA. Meta ha publicado su familia de grandes modelos de lenguaje Llama bajo licencias de pesos abiertos, permitiendo su descarga gratuita para la mayoría de los casos de uso. OpenAI, por el contrario, ha construido su negocio en torno a modelos propietarios a los que se accede principalmente a través de su propia API y la interfaz de ChatGPT. Microsoft colabora estrechamente con OpenAI y, al mismo tiempo, aloja una variedad de modelos en su plataforma en la nube Azure, mientras que NVIDIA suministra las GPU que sustentan el entrenamiento y la inferencia tanto de modelos abiertos como propietarios en toda la industria.

La carta establece un paralelo entre el actual debate sobre la IA y el auge del software de código abierto durante la década de 1980. Señala que el software de código abierto se convirtió en la base de gran parte de Internet y hoy respalda sistemas utilizados por las principales empresas tecnológicas, el ejército de EE. UU. y agencias federales. Según el documento, los modelos de IA de pesos abiertos podrían desempeñar un papel similar al permitir que las organizaciones descarguen, inspeccionen, modifiquen y operen modelos avanzados en su propia infraestructura.

La carta describe beneficios y riesgos

El documento sostiene que los modelos de IA de pesos abiertos permiten a las startups, las empresas, las universidades y las instituciones públicas aprovechar la IA avanzada sin tener que construir modelos frontera desde cero ni pagar por cada tarea a través de servicios propietarios. Las organizaciones pueden seleccionar diferentes modelos para diferentes cargas de trabajo conservando el control sobre sus datos, capacidades especializadas y conocimiento acumulado. Esta es una característica distintiva de los modelos de pesos abiertos, en los que los parámetros entrenados se publican para su descarga, pero los datos de entrenamiento subyacentes, el código y la metodología pueden no divulgarse por completo, una forma de apertura más limitada que la tradición de software de código abierto que invoca la carta.

La carta también aborda de frente las preocupaciones de seguridad. Reconoce que los pesos de los modelos publicados son difíciles de controlar o revertir después de su publicación. Sin embargo, argumenta que restringir los modelos de pesos abiertos no es la respuesta adecuada, ya que los defensores de ciberseguridad necesitan acceso a sistemas avanzados de IA para identificar amenazas, probar vulnerabilidades y responder a ataques. El enfoque del documento responde a una preocupación recurrente entre algunos investigadores de seguridad de IA y responsables políticos de que los modelos potentes ampliamente disponibles podrían reducir la barrera para que actores malintencionados generen contenido dañino o lleven a cabo ciberataques.

Además, el documento sostiene que la transparencia permite a los investigadores y desarrolladores examinar el comportamiento de los modelos, realizar evaluaciones comparativas, llevar a cabo pruebas de equipo rojo, identificar vulnerabilidades y mejorar las medidas de protección. Argumenta que concentrar la IA avanzada en un número limitado de modelos cerrados podría crear puntos únicos de fallo, lo que subraya la importancia de un ecosistema de IA diverso y abierto.