Qualcomms nieuwe vlaggenschip, de Snapdragon 8 Elite Extreme Gen 6, kan een AI-model met 30 miljard parameters rechtstreeks op een telefoon uitvoeren zonder verzoeken naar de cloud te sturen. Het bedrijf onthulde het platform tijdens zijn Snapdragon Summit op 22 september, samen met de goedkopere Snapdragon 8 Elite Gen 6, volgens de aankondiging van Qualcomm.

Mixture-of-experts-ontwerp overtreft Apples WWDC-aankondiging

Het model op het toestel gebruikt een mixture-of-experts-architectuur. Hoewel het volledige netwerk 30 miljard parameters bevat, wordt voor elke taak slechts een deel geactiveerd, waardoor de rekenbelasting op een batterijgevoed toestel beheersbaar blijft.

Het aantal parameters is de standaard maatstaf voor het vergelijken van modelschaal. Ter vergelijking: Apple onthulde in juni op zijn Worldwide Developer Conference een mixture-of-experts-model met 20 miljard parameters, zijn meest geavanceerde derdegeneratie basismodel.

Beide nieuwe chips hebben ook nieuwe sensormodulen die kleinere modellen tot 200 miljoen parameters draaien. Qualcomm zei dat deze modulen een telefoon lokaal een persoonlijk transcriptiehulpmiddel laten draaien en de ene spreker van de andere kunnen onderscheiden. Ze bouwen ook een geheugen op van hoe een persoon het toestel gebruikt om geautomatiseerde taken voor te stellen, en het bedrijf zei dat een volledige spraak-in, spraak-uit-agent op de chip kan draaien. Die functies vormen de kern van de "agentic AI experiences" die Qualcomm beschrijft: software die namens een gebruiker kan handelen — taken voorstelt of een gesprek van spraakinvoer naar spraakuitvoer voert — in plaats van alleen vragen te beantwoorden.

Negen merken doen mee, aangevoerd door Motorola's Signature 27

"Vandaag markeren we een mijlpaal nu we niet één, maar twee nieuwe vlaggenschipplatforms introduceren, die agentic AI-ervaringen leveren die direct, persoonlijk adaptief zijn", aldus Chris Patrick, senior vice president en general manager van mobile handsets bij Qualcomm Technologies.

Beide chips worden gefabriceerd op een 2-nanometerproces en combineren Qualcomms eigen Oryon CPU, een herontworpen Adreno GPU en een Hexagon neural processing unit, aldus het bedrijf. De Extreme-variant legt 8K-video vast bij 60 beelden per seconde en 4K bij 240 beelden per seconde voor slow motion. Beide platforms bevatten Qualcomms voice bubble-functie voor spraakisolatie.

De platforms zijn ingepland voor toestellen van HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo en Xiaomi. Motorola kondigde op het evenement de Motorola Signature 27 aan, gebouwd op de Extreme-chip, met algemene beschikbaarheid ergens dit jaar. Het is het enige toestel dat op het evenement werd aangekondigd met een bekend beschikbaarheidsmoment, waarmee de lancering de eerste aangekondigde mijlpaal is voor de Extreme-chip in handen van consumenten.

Zoals Cryptopolitan op 22 september meldde, positioneert Apple zijn nieuwe Mac mini- en Mac Studio-desktops als lokale AI-machines voor bedrijven, zonder clouds kosten per token. Samen gelezen delen beide zetten dezelfde premisse: AI kan draaien op hardware die de klant bezit in plaats van in een cloud die per token afrekent.