Il nuovo chip di punta di Qualcomm, lo Snapdragon 8 Elite Extreme Gen 6, può eseguire un modello AI da 30 miliardi di parametri direttamente su uno smartphone, senza instradare le richieste al cloud. L'azienda ha svelato la piattaforma in occasione del suo Snapdragon Summit del 22 settembre, insieme a uno Snapdragon 8 Elite Gen 6 di fascia inferiore, secondo l'annuncio di Qualcomm.

L'architettura mixture-of-experts supera il modello presentato da Apple alla WWDC

Il modello on-device utilizza un'architettura mixture-of-experts. Sebbene la rete completa contenga 30 miliardi di parametri, solo una frazione si attiva per ogni singolo compito, mantenendo il carico computazionale gestibile su un dispositivo a batteria.

Il numero di parametri è il parametro di confronto standard per la scala dei modelli. A titolo di paragone, Apple ha rivelato un modello mixture-of-experts da 20 miliardi di parametri alla sua Worldwide Developer Conference di giugno, il suo modello di base di terza generazione più avanzato.

Entrambi i nuovi chip includono anche nuovi sensing hub che eseguono modelli più piccoli, fino a 200 milioni di parametri. Qualcomm ha dichiarato che questi hub consentono a uno smartphone di eseguire localmente uno strumento di trascrizione personale e di distinguere un oratore dall'altro. Costruiscono inoltre una memoria di come una persona utilizza il dispositivo per proporre attività automatizzate, e l'azienda ha affermato che un agente completo da voce a voce può girare sul chip. Queste funzionalità sono la sostanza delle "esperienze di AI agentica" descritte da Qualcomm: software in grado di agire per conto dell'utente — proponendo attività o portando avanti una conversazione dall'input vocale all'output vocale — anziché limitarsi a rispondere a domande.

Nove brand salgono a bordo, guidati dal Motorola Signature 27

"Oggi segna una pietra miliare mentre presentiamo non una, ma due nuove piattaforme mobili di punta, che offrono esperienze di AI agentica immediate, personali e adattive", dichiarato Chris Patrick, senior vice president e general manager della divisione mobile handsets di Qualcomm Technologies.

Entrambi i chip sono fabbricati con un processo a 2 nanometri e combinano la CPU Oryon personalizzata di Qualcomm, una GPU Adreno riarchitettata e un'unità di elaborazione neurale Hexagon, ha dichiarato l'azienda. La variante Extreme registra video 8K a 60 fotogrammi al secondo e 4K a 240 fotogrammi al secondo per la slow motion. Entrambe le piattaforme includono la funzione voice bubble di Qualcomm per l'isolamento vocale.

Le piattaforme sono destinate a dispositivi di HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo e Xiaomi. Motorola ha annunciato all'evento il Motorola Signature 27, basato sul chip Extreme, con disponibilità generale entro quest'anno. È l'unico dispositivo annunciato all'evento con una tempistica di disponibilità, il che ne fa il primo traguardo annunciato per il chip Extreme nelle mani dei consumatori.

Come riportato da Cryptopolitan il 22 settembre, Apple sta posizionando i suoi nuovi desktop Mac mini e Mac Studio come macchine AI locali per le aziende, senza costi cloud per token. Letti insieme, le due mosse condividono una premessa: l'AI può girare su hardware di proprietà del cliente anziché in un cloud che fattura a token.