Een hoge Google-executive heeft naar verluidt bevestigd dat het bedrijf een oplossing heeft gevonden voor de door AI veroorzaakte aanbodcrisis en prijsstijgingen van geheugenchips die de hele technologiesector hebben stilgelegd: het recyclen van DDR4-geheugen uit afgeschreven servers en het inbouwen daarvan in zijn nieuwste AI-machines.

Nikhil Cherian, senior director supply chain infrastructure, zei dat de techgigant zelfs met deze DDR4-recyclingsstrategie nog steeds moeite heeft om voldoende chips te verkrijgen voor zijn AI-systemen. Volgens hem is de enige duurzame oplossing voor de uiterst krappe aanbodsituatie dat geheugenfabrikanten snel meer capaciteit bouwen.

De druk komt voort uit de manier waarop AI-systemen geheugen verbruiken: training en inferentie vereisen per server veel meer geheugenbandbreedte en -capaciteit dan conventionele cloudworkloads, en fabrikanten hebben hun productie verlegd naar high-bandwidth memory (HBM) voor AI-accelerators, waardoor er minder capaciteit overblijft voor conventionele DRAM.

Bedrijven hergebruiken nu oude geheugenchips

Google is niet de enige die zoekt naar manieren om te voorkomen dat AI-accelerators die miljarden dollars kosten om te bouwen stil komen te staan terwijl bedrijven onderhandelen over de prijs per module voor schaarse geheugenbandbreedte.

Meta beschreef eerder dit jaar in een paper een eigen aanpak voor het recyclen van DDR4, gebaseerd op Compute Express Link (CXL), een industriestandaard-interconnect die oudere DDR4 en nieuwere DDR5 binnen één machine samenbrengt, zodat legacy-modules als uitbreidingsgeheugen kunnen dienen in plaats van te worden afgedankt.

Khurram Malik, associate vice president product marketing bij Marvell, vertelde EE Times dat hyperscalers met CXL-controllers manieren vinden om de levensduur van DDR4-modules te verlengen in plaats van ze te laten verouderen nu servers overstappen op platforms die alleen DDR5 ondersteunen.

Meta rapporteerde efficiëntiewinst van tot 25% in serveraantallen bij bepaalde inferentie-workloads over miljoenen servers, terwijl de gemiddelde latentie op gedistribueerde cachesystemen met ongeveer 29% daalde.

De oplossing werkte echter niet voor elke geheugenchip. Meta zei dat standaard CXL-producten controllers met DRAM bundelen, wat hergebruik van bestaande DDR4-voorraden blokkeert. Die stapels zorgden er bovendien voor dat uitbreidingsgeheugen ruwweg tien keer langzamer draaide op bandbreedte en ongeveer 60% hogere latentie had dan direct aangesloten DRAM.

Meta's antwoord was de zelfontwikkelde Vistara ASIC, een model dat specifiek is gebouwd om hergebruikt te worden, met energie-efficiëntie en lage latentie als ingebouwde voordelen. Het bedrijf koppelt de ASIC bovendien aan software die workloads monitort en uitschakelt wanneer onaanvaardbare vertragingen worden gedetecteerd.

Geheugenchipprijzen schieten omhoog

De prijzen van geheugenchips blijven stijgen, en de lijn wordt steiler nu de AI-opbouw alles absorbeert wat fabrikanten kunnen produceren. Counterpoint Research rapporteerde een prijsstijging van 80% tot 90% kwartaal-op-kwartaal in Q1 2026.

Marvells schatting lag op 90% tot 95% stijging per kwartaal voor conventionele DRAM, waarbij hyperscalers naar verwachting in 2026 circa 30% van hun budget aan geheugen zullen besteden, tegenover ongeveer 8% in 2023 en 2024. Die verschuiving reikt verder dan het datacenter: conventionele DRAM is ook het geheugen dat in pc's, laptops en consumentenelektronica wordt gebruikt, dus krap aanbod en recordcontractprijzen werken door in bredere hardwarekosten.

TrendForce verwacht in het derde kwartaal van 2026 nog een kwartaalstijging van 13% tot 18% in contractprijzen voor conventionele DRAM.

Geen snelle verlichting in zicht

Het aanbod haalt dat niet snel in. Zoals Cryptopolitan meldde, is China's ChangXin Memory Technologies tegen een capaciteitsplafond van ongeveer 240.000 wafers per maand aangelopen, beperkt door Amerikaanse exportcontroles en opbrengsten die volgens schattingen van Counterpoint 42% lager liggen dan die van Samsung en SK Hynix. SK Hynix heeft circa $38 miljard gecommitteerd aan twee nieuwe fabs, maar de Y2 DRAM-fab wordt niet vóór medio 2029 in het cleanroomstadium verwacht.

De druk kan verder oplopen voordat er meer silicium beschikbaar komt. Twee vakbonden die circa 10.000 Micron-medewerkers in Taiwan vertegenwoordigen overwegen in september een stremmingsstemming over de berekening van bonussen, meldde Cryptopolitan. Micron is een van drie bedrijven die samen ongeveer 94% van de DRAM-markt beheersen, en een stilstand in zijn Taiwanese fabs — die niet snel kunnen worden verplaatst — zou een markt nog krapper maken waarvan SK Hynix-topman Kwak Noh-Jung verwacht dat die tot eind 2030 tekort blijft.

De lengte van die tijdlijn is de reden dat workarounds als DDR4-recycling en CXL-pooling de aandacht trekken: met nieuwe fabs nog jaren weg en de markt geconcentreerd bij drie leveranciers is het verlengen van de levensduur van geïnstalleerd geheugen een van de weinige hendels die kopers op korte termijn kunnen overhalen.

Bron: Cryptopolitan, Wccftech, EE Times, Counterpoint Research, Tom's Hardware