Новый флагманский чип Qualcomm — Snapdragon 8 Elite Extreme Gen 6 — может запускать ИИ-модель на 30 млрд параметров прямо на смартфоне, не перенаправляя запросы в облако. Компания представила платформу на Snapdragon Summit 22 сентября вместе со Snapdragon 8 Elite Gen 6 более низкой ступени, согласно пресс-релизу Qualcomm.

Архитектура mixture-of-experts превосходит модель Apple с WWDC

Модель на устройстве использует архитектуру mixture-of-experts. Хотя вся сеть содержит 30 млрд параметров, для каждой конкретной задачи активируется лишь часть из них, что делает вычислительную нагрузку посильной для устройства с батарейным питанием.

Число параметров — стандартная мера для сравнения масштаба моделей. Для сравнения: в июне на Всемирной конференции разработчиков Apple представила ИИ-модель mixture-of-experts на 20 млрд параметров — свою самую продвинутую базовую модель третьего поколения.

Обе новые микросхемы также получили сенсорные хабы, работающие с моделями меньшего размера — до 200 млн параметров. По словам Qualcomm, эти хабы позволяют телефону запускать локальный инструмент личной транскрибации и различать говорящих. Они также запоминают, как человек пользуется устройством, чтобы предлагать автоматизированные задачи, а компания сообщила, что чип способен работать полноценный агент с голосовым вводом и выводом. Именно эти возможности лежат в основе описываемого Qualcomm «агентного ИИ-опыта»: ПО, которое может действовать от имени пользователя — предлагать задачи или вести диалог от голосового ввода до голосового вывода, — а не только отвечать на вопросы.

Девять брендов подписались, лидирует Motorola Signature 27

«Сегодняшний день — веха: мы представляем не одну, а сразу две новые флагманские мобильные платформы, обеспечивающие мгновенный, персональный и адаптивный агентный ИИ-опыт», — заявил Крис Патрик, старший вице-президент и генеральный менеджер направления мобильных телефонов Qualcomm Technologies.

Обе микросхемы изготовлены по 2-нанометровому техпроцессу и объединяют фирменный CPU Oryon от Qualcomm, переработанный GPU Adreno и нейропроцессор Hexagon, сообщила компания. Вариант Extreme снимает видео 8K с частотой 60 кадров в секунду и 4K со 240 кадрами в секунду для замедленной съёмки. Обе платформы оснащены функцией voice bubble для изоляции голоса.

Платформы будут использоваться вх HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo и Xiaomi. На мероприятии Motorola анонсировала Motorola Signature 27 на чипе Extreme, который поступит в продажу до конца этого года. Это единственное устройство, представленное на мероприятии с указанием сроков доступности, что делает его запуск первой объявленной точкой выхода чипа Extreme на руки потребителей.

Как сообщала Cryptopolitan 22 сентября, Apple позиционирует свои новые настольные компьютеры Mac mini и Mac Studio как локальные ИИ-машины для бизнеса — без помашинной оплаты за токены в облаке. Взятые вместе, эти два шага исходят из одной посылки: ИИ может работать на оборудовании, принадлежащем клиенту, а не в облаке, которое берёт плату за каждый токен.