ニュース株式QualcommのSnapdragon 8 Elite Extreme Gen 6、300億パラメータのAIモデルをスマートフォンで直接実行

QualcommのSnapdragon 8 Elite Extreme Gen 6、300億パラメータのAIモデルをスマートフォンで直接実行

著者: Cryptopolitan·

重要ポイント

  • •Snapdragon 8 Elite Extreme Gen 6は、300億パラメータのAIモデルをデバイス上で完全に実行でき、クラウドサーバーへのリクエスト送信が不要になる。
  • •同チップはMixture-of-Expertsアーキテクチャを採用し、タスクごとに300億パラメータの一部のみが活性化するため、バッテリー駆動のスマートフォンでも負荷が実現可能な範囲に抑えられる。
  • •両新プラットフォームは2ナノメートルプロセスで製造され、独自のOryon CPU、再設計されたAdreno GPU、Hexagonニューラルプロセッシングユニットを組み合わせている。
  • •最大2億パラメータのモデルを実行するセンシングハブにより、デバイス上での文字起こし、話者識別、そしてユーザーの行動に基づいて自動タスクを提案できる完全な音声入出力エージェントが実現する。
  • •HONOR、iQOO、Motorola、OnePlus、OPPO、REDMI、RedMagic、vivo、Xiaomiの9ブランドのデバイス搭載が予定されており、年内発売予定のMotorola「Signature 27」が、Extremeチップ搭載で発売時期が明示された唯一のデバイスである。
QualcommのSnapdragon 8 Elite Extreme Gen 6、300億パラメータのAIモデルをスマートフォンで直接実行

Qualcommの新フラッグシップチップ「Snapdragon 8 Elite Extreme Gen 6」は、300億パラメータのAIモデルをクラウドにリクエストを送ることなく、スマートフォン上で直接実行できる。同社は9月22日のSnapdragon Summitで、このプラットフォームに加えて、「Snapdragon 8 Elite Gen 6」を発表した。Qualcommの発表によると。

Mixture-of-Experts設計がAppleのWWDC発表を上回る規模に

デバイス上で動作するモデルは、Mixture-of-Experts(MoE)アーキテクチャを採用している。ネットワーク全体は300億パラメータを含むが、タスクごとに活性化するのは一部だけで、バッテリー駆動のデバイスでも計算負荷を管理可能な範囲に抑えられる。

パラメータ数はモデルの規模を比較する標準的な指標である。比較として、Appleは6月のWorldwide Developer Conferenceで、200億パラメータのMoEモデルを発表した。これはAppleの第3世代基盤モデルの中で最も高度なものである。

両新チップは、最大2億パラメータの小規模モデルを実行する新たなセンシングハブも搭載している。Qualcommによると、これらのハブにより、スマートフォンはパーソナル文字起こしツールをローカルで実行し、話者同士を区別できる。また、ユーザーのデバイス使用状況を記憶して自動タスクを提案することも可能で、音声入力から音声出力まで対応する完全なエージェントもチップ上で動作するという。これらの機能こそが、Qualcommが語る「エージェンティックAI体験」の実体である。つまり、単に質問に答えるだけでなく、ユーザーに代わってタスクを提案したり、音声入力から音声出力まで会話を完結させたりできるソフトウェアである。

9ブランドが採用、Motorola「Signature 27」が先行

「本日、1つではなく2つの新フラッグシップモバイルプラットフォームを発表する里程碑となる日です。即時性があり、パーソナルで、適応的なエージェンティックAI体験を提供します」と、Qualcomm Technologiesのモバイルハンドセット担当上級副社長兼ゼネラルマネージャーであるChris Patrick氏は述べた。

両チップは2ナノメートルプロセスで製造され、Qualcomm独自のOryon CPU、再設計されたAdreno GPU、Hexagonニューラルプロセッシングユニットを組み合わせていると同社は述べている。Extreme版は、60フレーム毎秒の8K動画、およびスローモーション用に240フレーム毎秒の4K動画を撮影できる。両プラットフォームには、音声分離のためのQualcommの「voice bubble」機能が搭載されている。

これらのプラットフォームは、HONOR、iQOO、Motorola、OnePlus、OPPO、REDMI、RedMagic、vivo、Xiaomiのデバイスに搭載される予定である。Motorolaはイベントで、Extremeチップを搭載した「Motorola Signature 27」を発表し、年内に一般提供される予定としている。これは発表時に搭載時期が明示された唯一のデバイスであり、Extremeチップが消費者の手に渡る最初の announced チェックポイントとなる。

Cryptopolitanが9月22日に報じたように、Appleは新たなMac miniおよびMac Studioデスクトップを、トークンごとのクラウド課金なしで企業向けのローカルAIマシンとして位置づけている。両社の動きを併せて読むと、共通の前提が見えてくる。それは、AIはトークン単位で課金されるクラウドではなく、顧客が所有するハードウェア上で動作できるということだ。