新闻股票高通骁龙8 Elite Extreme Gen 6将300亿参数AI模型带上手机

高通骁龙8 Elite Extreme Gen 6将300亿参数AI模型带上手机

作者: Cryptopolitan·

要点速览

  • •骁龙8 Elite Extreme Gen 6可在设备端完整运行300亿参数的AI模型,无需将请求转至云端服务器。
  • •该芯片采用混合专家架构,每个任务仅激活300亿参数中的一小部分,使电池供电手机上的工作负载切实可行。
  • •两款新平台均采用2纳米工艺制造,结合定制Oryon CPU、重新架构的Adreno GPU和Hexagon神经网络处理单元。
  • •运行最多2亿参数模型的传感中枢支持端侧转录、说话人区分,以及能够基于用户行为提出自动化任务的完整语音输入、语音代理。
  • •HONOR、iQOO、摩托罗拉、OnePlus、OPPO、REDMI、红魔、vivo和小米九大品牌的设备计划搭载,年内上市的摩托罗拉Signature 27是唯一公布Extreme芯片上市时间线的设备。
高通骁龙8 Elite Extreme Gen 6将300亿参数AI模型带上手机

高通的新旗舰芯片骁龙8 Elite Extreme Gen 6可以在手机上直接运行300亿参数的AI模型,无需将请求转至云端。该公司于9月22日的骁龙峰会上发布了这一平台,同时还推出了次旗舰骁龙8 Elite Gen 6,根据高通的公告。

混合专家设计规模超越苹果WWDC发布的模型

该端侧模型采用混合专家架构。尽管完整网络包含300亿参数,但每个任务仅激活其中一部分,使电池供电设备上的计算负担保持在可控范围内。

参数数量是比较模型规模的标准尺度。相比之下,苹果于6月在其全球开发者大会上公布了200亿参数的混合专家模型,这是其最先进的第三代基础模型。

两款新芯片还配备了新的传感中枢,可运行最多2亿参数的较小模型。高通表示,这些中枢使手机能够在本地运行个人转录工具,并区分不同说话人。它们还会记忆用户使用设备的方式,从而提出自动化任务建议,并且该公司表示,一个完整的语音输入、语音输出代理可以通过该芯片运行。这些功能正是高通所说的“代理式AI体验”的实质:能够在用户一方行事的软件——提出任务或完成从语音输入到语音输出的对话——而不仅仅是回答问题。

九大品牌签约,摩托罗拉Signature 27领衔

“今天标志着一个里程碑,我们推出的不是一款,而是两款全新旗舰移动平台,带来即时、个性化且自适应的代理式AI体验,”高通技术公司高级副总裁兼手机业务总经理Chris Patrick表示。

该公司称,两款芯片均采用2纳米工艺制造,结合了高通定制的Oryon CPU、重新架构的Adreno GPU以及Hexagon神经网络处理单元。Extreme版本能够以每秒60帧拍摄8K视频,并以每秒240帧拍摄4K慢动作视频。两个平台均配备高通用于语音隔离的语音气泡功能。

这些平台已确定将用于HONOR、iQOO、摩托罗拉、OnePlus、OPPO、REDMI、红魔、vivo和小米的设备。摩托罗拉在活动现场发布了基于Extreme芯片的摩托罗拉Signature 27,将于年内正式发售。它是活动上唯一公布了上市时间的设备,使其成为Extreme芯片到达消费者手中的首个已公布的里程碑。

正如Cryptopolitan于9月22日报道,苹果正将其新款Mac mini和Mac Studio台式机定位为面向企业的本地AI机器,无需按token支付云端费用。综合来看,这两项举措有一个共同前提:AI可以在客户拥有的硬件上运行,而不是在按token计费的云中运行。