Het aandeel Super Micro Computer (SMCI) daalde 10,03% naar $26,63, een verlies van $2,97, amid zware verkoopdruk. De daling vond plaats terwijl het bedrijf een nieuwe AI-opslagoplossing aankondigde die is ontwikkeld in samenwerking met IBM en NVIDIA, een technologie die is ontworpen om AI-inferentie te versnellen, de GPU-efficiëntie te verbeteren en groeiende zakelijke workloads te ondersteunen.

Supermicro Werkt Samen Met IBM en NVIDIA aan AI-opslagoplossing

Supermicro introduceerde een nieuw KV-cache opslagplatform dat technologieën van drie grote infrastructureleveranciers combineert. Het systeem integreert Supermicro Petascale all-flashservers, IBM Storage Scale-software en NVIDIA Dynamo, en is gebouwd op AMD EPYC 9005-processors met NVIDIA Spectrum-X Ethernet-netwerken.

De samenwerking richt zich op de groeiende vraag naar snellere AI-inferentie in zakelijke applicaties en cloudinfrastructuur. Moderne AI-systemen verwerken grotere datasets en langere gesprekken, wat de druk op bestaande geheugenbronnen vergroot, en bedrijven hebben opslagsystemen nodig die complexe workloads aankunnen zonder de verwerkings-efficiëntie te verminderen. KV-cache offloading gaat direct in op die beperking: het verplaatst herbruikbare modelcontext van beperkt GPU-geheugen naar gedeelde flashopslag, waardoor cachecapaciteit een bron wordt die met de vraag kan meegroeien.

Supermicro ontwikkelde het platform om de KV-cache capaciteit uit te breiden voorbij het lokale GPU-geheugen. Deze aanpak stelt AI-systemen in staat eerder verwerkte informatie te hergebruiken in plaats van berekeningen te herhalen. Gedeelde opslag helpt organisaties ook om de inferentiecapaciteit uit te breiden met behoud van consistente applicatieprestaties.

KV-cachetechnologie Levert Tot 56x Snellere First-token Respons

Supermicro en NVIDIA testten de technologie met een groot taalmodel van 120 miljard parameters. Hun tests registreerden tot 56 keer snellere time-to-first-token prestaties bij prompts van 130.000 tokens, wat aanzienlijke verbeteringen aantoonde wanneer het systeem gecachte informatie hergebruikte. Time-to-first-token meet de wachttijd voordat een model begint met het produceren van uitvoer, een latentiefiguur die groeit met de promptlengte wanneer context niet wordt gecacht.

Terwijl de invoerlengtes tijdens de tests toenamen van 30.000 naar 130.000 tokens, steeg de responstoebereidingstijd met slechts 0,377 seconden met caching, vergeleken met 29,55 seconden zonder caching. De bevindingen benadrukten de potentiële voordelen van de technologie voor applicaties die uitgebreide informatie verwerken.

Het platform ondersteunt ook een hoger GPU-gebruik door onnodige berekeningen en verwerkingsvertragingen te verminderen. De gedeelde architectuur stelt meerdere GPU-clusters in staat efficiënt toegang te krijgen tot opgeslagen context, en de bedrijven valideerden het systeem onder zware workloads en concurrerende netwerkverkeersomstandigheden. Voor exploitanten die veel gelijktijdige inferentieworkloads draaien, verbindt die combinatie de opslagarchitectuur direct met GPU-productiviteit en servercapaciteit.

Supermicro Richt Zich op Groei Zakelijke AI-infrastructuur

De aankondiging breidt de infrastructuurportfolio van Supermicro uit nu bedrijven meer uitgeven aan AI-implementatie en inferentiediensten. Zakelijke applicaties maken steeds meer gebruik van codeerassistenten, geautomatiseerde workflows en systemen die lange documenten verwerken, die allemaal betrouwbare opslagcapaciteit naast krachtige rekenbronnen vereisen.

Supermicro biedt ook rackintegratie in de fabriek en implementatiediensten voor het nieuwe platform. Volgens het bedrijf kunnen deze diensten de implementatieperiode verkorten van weken naar dagen. IBM levert opslagbeheermogelijkheden, terwijl NVIDIA inferentiesoftware en netwerktechnologie levert.

De samenwerking versterkt de positie van Supermicro in zakelijke AI-infrastructuur ondanks de scherpe daling van het aandeel. Het bedrijf zei dat zijn nieuwste oplossing reken-efficiëntie, opstagschaalbaarheid en systeembetrouwbaarheid adresseert in veeleisende applicaties. De aankondiging bevatte echter geen financiële prognoses of bevestigde omzetbijdragen van het nieuwe platform, waardoor klantadoptie en de commerciële bijdrage van het platform nog moeten blijken uit toekomstige bedrijfsonthullingen.

Bron: Blockonomi