IBM se ha comprometido a un acuerdo plurianual de 240 millones de dólares con Together AI para construir un clúster de inferencia dedicado con Nvidia en IBM Cloud, anunciaron ambas empresas el martes. El acuerdo proporciona al proveedor de IA de código abierto un bloque sustancial de capacidad de GPU de nivel empresarial a medida que expande su presencia en grandes cuentas corporativas. El acuerdo también refleja un cambio más amplio en el gasto en infraestructura de IA, ya que la demanda de inferencia — el proceso de ejecutar modelos entrenados para generar resultados — crece junto con el despliegue de aplicaciones de IA en entornos de producción.

Los sistemas HGX B300 entrarán en funcionamiento a principios de 2027

Bajo el acuerdo firmado, IBM desplegará un gran clúster de sistemas Nvidia HGX B300 dentro de IBM Cloud. Se espera que el hardware entre en funcionamiento en el primer trimestre de 2027, según el comunicado de prensa de IBM. El plazo plurianual subraya los horizontes de planificación extendidos que ahora son comunes para asegurar capacidad de GPU de próxima generación, a medida que los proveedores de la nube y las empresas de IA reservan hardware mucho antes de que se envíe.

Together AI utilizará esta capacidad para ofrecer inferencia en modelos de código abierto. IBM afirmó que este es el primer clúster dedicado de esta escala construido para inferencia en IBM Cloud en torno al B300, configurado con redes Ethernet Spectrum-X de Nvidia.

Nvidia afirmó que la configuración puede generar 30 veces más "rendimiento de fábrica de IA" que su generación anterior, aunque esta cifra no ha sido verificada de forma independiente.

Los 400 billones de tokens mensuales de Together AI se ejecutarán en IBM

Together AI completó recientemente una ronda de financiación Serie C de 800 millones de dólares con una valoración de 8.300 millones de dólares, destinada a expandir lo que denomina su AI Native Cloud. Fundada en 2022, la empresa alquila infraestructura en la nube a compañías que buscan construir sobre arquitecturas de IA abiertas y modulares en lugar de modelos propietarios cerrados. Ese posicionamiento sitúa a Together AI en un panorama competitivo que incluye tanto a proveedores de API propietarios como OpenAI y Anthropic como a otras plataformas de inferencia centradas en el código abierto, a medida que las empresas evalúan las compensaciones entre costo, control y rendimiento.

Según el comunicado de prensa de IBM, Together AI actualmente procesa 400 billones de tokens por mes a través de su producto de inferencia y admite a más de un millón de desarrolladores. El clúster de IBM proporcionará la plataforma de infraestructura para la expansión planificada de Together AI.

El CEO de Together AI, Vipul Ved Prakash, dijo que el acuerdo permite a la empresa llegar a más clientes sin requerirles que paguen precios de modelos frontera.

"Las empresas quieren el rendimiento de los mejores modelos frontera sin el precio de los modelos cerrados, y eso solo funciona si la infraestructura subyacente es rápida y confiable a escala", dijo Prakash en el comunicado. Añadió que el clúster representa "un gran paso en nuestro esfuerzo por hacer que la IA de código abierto sea la opción obvia para las empresas".

IBM profundiza su asociación con Nvidia para atender a las startups de IA

Para IBM, el acuerdo con Together AI añade otra capa a su creciente asociación con Nvidia. Alan Peacock, gerente general de IBM Cloud, dijo que el despliegue responde a la demanda corporativa de IA agéntica, señalando que IBM y Nvidia están "ofreciendo infraestructura de IA escalable, económica y de nivel empresarial" para acelerar las operaciones de Together AI. El acuerdo refleja el esfuerzo de IBM Cloud por competir por cargas de trabajo de infraestructura de IA frente a proveedores de nube hiperescalados más grandes, ofreciendo capacidad de GPU dedicada vinculada a clientes específicos de IA de alto crecimiento.

Dion Harris, director senior de HPC e infraestructura de IA en Nvidia, describió las fábricas de IA como una infraestructura que se está volviendo tan fundamental como la electricidad o las telecomunicaciones.

IBM también señaló que ambas empresas han estado colaborando en análisis de datos nativo de GPU y extracción de datos no estructurados. La asociación abarca servicios de consultoría, con el clúster de Together AI posicionado como parte de una estrategia más amplia para vender capacidad de IA tanto a grandes empresas como a startups.