La CEO di Advanced Micro Devices (AMD), Lisa Su, ha annunciato giovedì all’evento Advancing AI di San Francisco che il sistema rack-scale Helios dell’azienda è ora in piena produzione, posizionando il produttore di chip per competere nel business dei data center AI che Nvidia ha ampiamente dominato.

Il lancio segna la prima volta in cui AMD ha prodotto un cabinet server completo progettato per competere direttamente con le offerte rack di punta di Nvidia. I sistemi rack-scale come Helios e NVL72 di Nvidia rappresentano una tendenza in crescita nel mercato dell’hardware AI, in cui i fornitori consegnano cabinet completamente integrati anziché singoli componenti, semplificando il deployment per cloud provider e imprese impegnati ad ampliare rapidamente l’infrastruttura AI.

Componenti del rack server Helios

Helios integra 72 delle nuove GPU Instinct MI455X di AMD insieme alle CPU server Epyc dell’azienda all’interno di un singolo rack. Questa configurazione è paragonabile a NVL72 di Nvidia, che ospita analogamente 72 GPU basate su componenti Grace Blackwell e Vera Rubin.

Durante il suo keynote, Su ha descritto la MI455X come la GPU più potente disponibile sul mercato, un’affermazione rivolta direttamente all’attuale leader del settore.

Secondo Constellation Research, che ha seguito l’evento, ogni MI455X dispone di 432GB di memoria HBM4, velocità di trasferimento dati di 23.3 TB/s e circa 320 miliardi di transistor. Un rack Helios completamente configurato può raggiungere fino a 2.9 exaflops di picco di calcolo FP4, 31 terabyte di memoria HBM4 e 1.7 petabyte al secondo di larghezza di banda della memoria. HBM4, l’ultima generazione di memoria ad alta larghezza di banda, è fondamentale per i carichi di lavoro AI perché l’addestramento e l’esecuzione di modelli di grandi dimensioni richiedono lo spostamento di enormi quantità di dati tra processori e memoria, rendendo la larghezza di banda della memoria importante quanto la potenza di calcolo grezza nel determinare le prestazioni reali del sistema.

Posizionamento competitivo contro Vera Rubin di Nvidia

Su ha sottolineato che il rack Helios offre vantaggi oltre alla potenza di calcolo grezza. Ha dichiarato che fornisce prestazioni di calcolo superiori del 15% rispetto a Vera Rubin di Nvidia, dispone del 50% di memoria HBM in più e restituisce il 30% di token in più per dollaro. AMD ha inoltre messo in evidenza le sue CPU Epyc 9006, che secondo Su offrono prestazioni per core superiori del 20% rispetto alla CPU Vera di Nvidia.

AMD sta inseguendo un mercato attualmente controllato da Nvidia, con quest’ultima che detiene una quota stimata tra l’80% e il 90% dello spazio dei data center AI. Oltre alle specifiche hardware, il dominio di Nvidia è stato rafforzato dal suo ecosistema software CUDA, su cui gli sviluppatori fanno affidamento da anni e che la piattaforma ROCm di AMD continua a sfidare. Per contribuire a colmare questo divario, AMD ha annunciato una partnership con Cerebras per integrare i chip di inferenza dell’azienda nella propria linea di data center, una mossa che rispecchia l’accordo di Nvidia con il progettista di chip Groq. Sia Cerebras sia Groq sono specializzate in processori focalizzati sull’inferenza che adottano approcci architetturali diversi per eseguire modelli AI, riflettendo la crescente enfasi del settore sul deployment efficiente in termini di costi.

La scommessa di AMD sull’inferenza

AMD sta posizionando l’inferenza come il prossimo grande carico di lavoro informatico. Su ha detto ai partecipanti che circa il 60% della capacità di calcolo sarà dedicato all’esecuzione dei modelli anziché al loro addestramento, citando gli agenti AI come un catalizzatore chiave di questo cambiamento. Ciò riflette l’evoluzione del settore dall’addestramento una tantum dei modelli a costi di inferenza continuativi che scalano direttamente con l’adozione da parte degli utenti e il deployment delle applicazioni.

Secondo l’annuncio di lancio di AMD, il consumo mensile di token è aumentato di 158 volte negli ultimi due anni. Sul modello DeepSeek-V4-Flash, la MI455X raggiungerebbe fino a 34 volte il throughput di token a livelli elevati di interattività.

Secondo alcune notizie, AMD aveva già concluso accordi per Helios con Anthropic e Microsoft, e l’azienda ha portato sul palco sia OpenAI sia Anthropic durante il keynote. Su ha descritto la domanda per Helios come “estremamente forte” e ha stimato il mercato degli acceleratori AI a $1.4 trillion entro il 2030.

Le azioni AMD sono scese di oltre il 2% durante la presentazione di Su, secondo Yahoo Finance. Su un periodo più ampio di 12 mesi, tuttavia, il titolo AMD ha guadagnato il 222%, rispetto al rialzo del 117% di Nvidia nello stesso arco temporale. AMD è rimasta indietro rispetto alla rivale per anni e ha iniziato a ridurre il divario solo quest’anno.