Samsung Electronics sta presentando due architetture concettuali che descrive come prime nel settore — un design di memoria a larghezza di banda elevata impilata in 3D chiamato zHBM e una soluzione NAND flash denominata zNAND-O — al Future of Memory and Storage 2026, in programma da martedì a giovedì presso il Santa Clara Convention Center in California. I concept arrivano in un contesto di intensificazione della competizione tra i tre principali produttori di memoria — Samsung, SK Hynix e Micron — per la fornitura di HBM destinati agli acceleratori AI di aziende tra cui NVIDIA e AMD, dove la larghezza di banda della memoria è diventata un vincolo determinante per le prestazioni di sistema.

L'architettura zHBM posiziona la memoria a larghezza di banda elevata direttamente sopra i processori AI, anziché collocare i package HBM affiancati alle GPU e agli altri acceleratori sullo stesso piano, come avviene nei design convenzionali. Riducendo la distanza fisica che i dati devono percorrere, Samsung afferma che la connessione più breve potrebbe aumentare la larghezza di banda riducendo al contempo il consumo energetico, alleviando i colli di bottiglia nei sistemi AI in cui i processori scambiano continuamente grandi volumi di informazioni con la memoria. Questo approccio mira alla sfida di lunga data del settore nota come "memory wall", in cui il trasferimento dei dati tra processori e memoria non ha tenuto il passo con i miglioramenti nella velocità di elaborazione.

Secondo Samsung, un sistema di interfaccia di nuova generazione che incorpori zHBM potrebbe offrire prestazioni fino a otto volte superiori rispetto a HBM5, lo standard HBM di ottava generazione. L'efficienza energetica potrebbe migliorare fino a tre volte. L'azienda ha inoltre dichiarato che la tecnologia avanzata di wafer bonding potrebbe ridurre la resistenza termica di oltre la metà rispetto a HBM5, affrontando una delle principali sfide nell'impilamento verticale di memoria ad alte prestazioni e processori. I through-silicon vias (TSV), già utilizzati negli attuali package HBM per collegare verticalmente i die DRAM, sono centrali nell'attuale produzione di memoria impilata e verrebbero ulteriormente estesi nel concept zHBM.

L'architettura può essere personalizzata per singoli sistemi AI tramite uno strato intermedio tra memoria e acceleratore che incorpora proprietà intellettuale specifica del cliente. A seconda del design di sistema, questo strato intermedio potrebbe essere configurato per espandere la capacità di memoria o migliorare le prestazioni del processore. Samsung ha dichiarato di voler collaborare con i clienti per ottimizzare la connessione tra i loro processori AI e la memoria, affinando ulteriormente le prestazioni di zHBM. L'azienda non ha comunicato una tempistica di commercializzazione.

Samsung sta inoltre estendendo il suo approccio di memoria 3D alla NAND flash con zNAND-O, ancora in fase di sviluppo. La soluzione combina la tecnologia di impilamento V-NAND di Samsung con i through-silicon vias (TSV), impilando verticalmente quattro o otto die semiconduttori in un unico package. La "O" nel nome indica la sua focus sull'AI on-device, in cui i dati vengono elaborati localmente anziché trasmessi a un server esterno. Impilando i die, Samsung mira a ridurre lo spazio occupato dalla memoria migliorando al contempo la larghezza di banda di caricamento dei dati e i tempi di risposta, rivolgendosi a dispositivi che devono elaborare localmente grandi volumi di dati in tempo reale. L'elaborazione AI on-device ha guadagnato terreno poiché i produttori di dispositivi cercano di ridurre la latenza, diminuire la dipendenza dal cloud e affrontare le problematiche di privacy dei dati.

Nello stesso evento, Samsung ha presentato V10 BV-NAND, la sua tecnologia V-NAND di decima generazione con oltre 400 strati verticali di celle di memoria — rendendola, secondo l'azienda, il primo design V-NAND del settore a superare la soglia dei 400 strati. La struttura a maggiore densità consente di collocare più celle di memoria nella stessa area, aumentando la capacità di archiviazione migliorando al contempo le prestazioni e l'efficienza energetica. I produttori rivali di NAND, tra cui SK Hynix, Micron e la cinese YMTC, stanno gareggiando per aumentare il numero di strati verticali nelle rispettive tecnologie 3D NAND.

L'annuncio arriva a 13 anni di distanza dalla presentazione, da parte di Samsung, di quella che ha descritto come la prima tecnologia V-NAND al mondo, nello stesso evento di settore. Samsung prevede di sfruttare queste nuove tecnologie di memoria 3D per rispondere alla crescente domanda di calcolo ad alte prestazioni e infrastrutture AI.