Nowy flagowy układ Qualcomma, Snapdragon 8 Elite Extreme Gen 6, może uruchamiać model AI z 30 miliardami parametrów bezpośrednio na telefonie, bez kierowania żądań do chmury. Firma zaprezentowała platformę podczas Snapdragon Summit 22 września, wraz z niższym modelem Snapdragon 8 Elite Gen 6, zgodnie z komunikatem Qualcomma.

Konstrukcja mixture-of-experts przewyższa rozwiązanie Apple z WWDC

Model działający na urządzeniu wykorzystuje architekturę mixture-of-experts. Choć cała sieć zawiera 30 miliardów parametrów, przy każdym zadaniu aktywuje się tylko jej część, dzięki czemu obciążenie obliczeniowe pozostaje możliwe do kontrolowania na zasilanym baterią urządzeniu.

Liczba parametrów jest standardową miarą wykorzystywaną do porównywania skali modeli. Dla porównania, w czerwcu podczas Worldwide Developer Conference Apple zaprezentowało model mixture-of-experts z 20 miliardami parametrów — najbardziej zaawansowany model bazowy firmy trzeciej generacji.

Oba nowe układy mają również nowe moduły sensoryczne, które uruchamiają mniejsze modele zawierające do 200 milionów parametrów. Qualcomm poinformował, że moduły te pozwalają telefonowi lokalnie obsługiwać osobiste narzędzie do transkrypcji i odróżniać jednego mówcę od drugiego. Tworzą także pamięć sposobu korzystania z urządzenia przez daną osobę, aby proponować automatyczne zadania. Firma podała, że za pośrednictwem układu może działać pełny agent obsługujący komunikację od głosu do głosu. Funkcje te stanowią podstawę opisywanych przez Qualcomma „agentic AI experiences”: oprogramowania, które może działać w imieniu użytkownika — proponować zadania lub prowadzić rozmowę od wejścia głosowego do wyjścia głosowego — zamiast jedynie odpowiadać na pytania.

Dziewięć marek dołącza do projektu, na czele z Motorola Signature 27

„Dzisiejszy dzień jest kamieniem milowym, ponieważ wprowadzamy nie jedną, lecz dwie nowe flagowe platformy mobilne, zapewniające natychmiastowe, spersonalizowane i adaptacyjne doświadczenia agentic AI” — powiedział Chris Patrick, starszy wiceprezes i dyrektor generalny działu urządzeń mobilnych w Qualcomm Technologies.

Oba układy są produkowane w procesie technologicznym 2 nm i łączą autorski procesor Oryon firmy Qualcomm, przeprojektowany układ graficzny Adreno oraz jednostkę przetwarzania neuronowego Hexagon — podała firma. Wariant Extreme może rejestrować obraz w 8K przy 60 klatkach na sekundę oraz w 4K przy 240 klatkach na sekundę, co umożliwia nagrywanie w zwolnionym tempie. Obie platformy wyposażono w funkcję voice bubble firmy Qualcomm służącą do izolowania głosu.

Platformy mają trafić do urządzeń marek HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo i Xiaomi. Motorola zapowiedziała podczas wydarzenia model Motorola Signature 27, zbudowany na układzie Extreme, którego ogólna dostępność ma rozpocząć się w tym roku. To jedyne urządzenie ogłoszone podczas wydarzenia, dla którego podano termin dostępności, co czyni jego premierę pierwszym zapowiedzianym etapem wejścia układu Extreme na rynek konsumencki.

Jak informował Cryptopolitan 22 września, Apple pozycjonuje nowe komputery stacjonarne Mac mini i Mac Studio jako lokalne maszyny AI dla firm, bez opłat za każdy token przetwarzany w chmurze. Oba posunięcia opierają się na wspólnym założeniu: AI może działać na sprzęcie należącym do klienta, zamiast w chmurze naliczającej opłaty za token.