高通发布两款新手机芯片,端侧AI迈入300亿参数时代

高通发布两款新手机芯片,端侧AI迈入300亿参数时代

高通在9月23日发布了两款全新智能手机芯片,延续了近年来移动平台向AI算力倾斜的趋势。与以往强调跑分、图形性能或影像能力的发布会不同,高通这次把端侧AI放在了聚光灯下,并抛出了一个颇具冲击力的数据:新一代旗舰芯片可以在本地直接运行300亿参数的混合专家(MoE)模型。

端侧AI的下一步:300亿参数

所谓本地运行,意味着模型推理完全在手机上完成,无需将数据上传至云端。这带来的好处是多方面的:首先是隐私——用户的对话、照片、文档等敏感信息不必离开设备;其次是延迟——没有网络往返,AI响应可以近乎即时;再者是成本——厂商不必为每一次AI调用支付云端算力费用。

不过,300亿参数的模型对手机的NPU(神经网络处理单元)、内存带宽和功耗管理都是巨大考验。作为参照,目前多数旗舰手机能够流畅运行的端侧模型参数量集中在30亿到70亿之间。高通此番把门槛抬高到300亿,说明其在NPU架构、内存子系统和模型量化压缩技术上都有新的积累。MoE架构本身也帮了大忙——它通过按需激活部分专家网络,在保持大模型能力的同时大幅降低实际计算量,这也是近年来端侧大模型普遍采用MoE路线的关键原因。

两款芯片的定位分工

高通此次发布的两款芯片预计将分别覆盖旗舰与次旗舰市场,形成高低搭配的产品组合。这种策略在移动芯片领域已相当常见:顶级芯片负责树立技术标杆,次旗舰则承担扩大出货量的任务。两款芯片都强调AI能力,说明端侧AI正在从旗舰专属向中高端普及过渡。

行业背景:端侧AI军备竞赛

高通并非唯一押注端侧AI的厂商。苹果在自研芯片中持续强化神经引擎,并借助Apple Intelligence将生成式AI能力融入系统级体验;联发科在旗舰天玑系列中反复强调AI算力与能效;谷歌的Tensor芯片更是把AI作为核心差异化卖点。可以说,端侧AI已经成为手机芯片竞争的新战场。

与此同时,大模型厂商也在积极推动模型瘦身。参数压缩、量化、蒸馏、MoE等技术,目的都是让庞大的模型能够在有限的硬件资源上运行。芯片与模型的协同优化,正在成为整个行业的主旋律。

端侧AI的竞争,本质上是算力、内存与功耗之间的平衡术。

对用户和开发者意味着什么

对普通用户而言,最直观的变化可能是:手机上的AI助手将更聪明、更私密,且能在离线状态下工作。AI修图、实时翻译、语音摘要、智能代理等功能的响应速度和可用性都会提升。对开发者来说,更大的端侧模型意味着可以在不依赖云端API的情况下构建能力更强的应用,尤其适合隐私敏感和低延迟的场景。

挑战依然存在

当然,把300亿参数模型装进手机并非没有代价。模型的存储占用、运行时内存需求、发热和续航压力,都是工程上必须面对的问题。此外,端侧模型的更新迭代也不如云端灵活——用户需要下载新的模型权重,这对存储和带宽都是负担。高通能否在真实使用场景中兑现其宣称的能力,仍有待第三方评测和实际产品检验。

总体来看,高通此次发布释放了一个清晰信号:端侧AI的算力门槛正在快速抬升。当手机能够本地运行数百亿参数的大模型,移动设备与云端的AI分工格局也将被重新定义。对于芯片厂商而言,谁能在算力、能效与生态之间找到最佳平衡,谁就有机会在下一轮换机潮中占据主动。

本文编译自TechCrunch