大模型，手机不能承受之重？

OPPO 发布自主训练的 AI 大模型 AndesGPT（来源：OPPO）

11 月 16 日，OPPO 正式推出大模型安第斯，分为端侧运行、云端运行等不同参数规模，最高支持千亿参数。3 天前，vivo 发布了高端旗舰新品 X100 系列，声称是全球首个百亿大模型在终端调通的大模型手机。此前，华为、小米、荣耀等手机厂商高调宣称在端侧部署大模型。

人工智能（AI）大模型被手机厂商寄予厚望，但端侧部署对手机内置芯片提出了更高要求。如何满足大模型千百亿级参数对算力、存储和能耗要求是个大问题。在手机创新乏善可陈、市场相对低迷的当下，手机大模型还被厂商赋予了增加用户黏性等其他重大责任。炙热的大模型，手机能否承受其重？

大模型纷纷接入手机

今年 7 月起，AI 大模型就成为手机厂商发布会的高频热词。余承东、雷军、赵明 …… 手机厂商的 CEO 们纷纷为 AI 大模型发声；荣耀、华为、OPPO、小米、vivo、三星等手机厂商——推出自研大模型或者宣布将大模型接入手机。

来源：记者根据公开资料整理

7 月，荣耀发布了 Magic V2 折叠屏手机，声称是 " 全球首款原生集成 AI 大模型的国产手机 "。10 月，荣耀 CEO 赵明宣布，荣耀 Magic6 系列将搭载第三代骁龙 8 移动平台，支持 70 亿参数的端侧 AI 大模型。

在 8 月的华为开发者大会上，华为常务董事、终端 BG CEO 余承东宣布，盘古大模型接入了华为 HarmonyOS 4 及华为小艺智慧助手，华为 P60 和 Mate 60 用户可以通过小艺智能助手进行体验。

华为盘古大模型

同月，小米创始人、董事长兼 CEO 雷军发布了小米自研的 MiLM 两个轻量级大模型（64 亿参数和 13 亿参数）。10 月底，小米正式推出将 AI 大模型植入澎湃 OS 系统的小米 14 手机。

10 月，OPPO 宣布自主训练的 AI 大模型——安第斯大模型（AndesGPT）接入新小布助手 AndesGPT，并于 11 月 16 日将 AndesGPT 能力正式接入 ColorOS 14 新系统。

11 月，vivo 一口气发布了 1750 亿、1300 亿、700 亿、70 亿、10 亿五个量级的自研 AI" 蓝心 " 大模型。根据 vivo 提供给记者的相关资料，130 亿参数的蓝心大模型实现端侧跑通，1750 亿参数的蓝心大模型已达到 GPT-3 参数水平。

相比国内手机厂商，三星和苹果两大手机巨头显然慢了半拍。三星在 11 月才展示出其 AI 大模型 " 高斯 "，搭载其 AI 大模型的 Galaxy S24 系列手机预计要到明年上半年才发售。

苹果还未官宣其 AI 大模型，据分析，苹果计划最早在 2024 年年底将生成式 AI 技术整合到 iPhone 和 iPad 中。

为何要端侧部署？

当前，AI 大模型接入手机有两种选择：其一是部署在云端，其二是部署在端侧。目前来看，厂商部署在端侧的都是十亿级轻量级大模型，部署在云端的则是千亿级 AI 大模型。大模型手机端侧部署是指直接存储在手机设备内部，仅利用芯片的算力生成结果。

" 内存占用不能影响手机的正常使用和运行，同时反应速度要快，功耗还不能太高。" 相关专家在接受《中国电子报》记者采访时表示。

受限于当前手机 GPU 和 NPU 硬件能力，当前大部分手机端仅能运行数十亿级别轻量级的大模型，但是这些轻量级的模型训练参数较小，在一定程度上会影响结果精准输出，进而影响用户的使用体验。

为了平衡内存、执行速度、功耗三大问题，现阶段的 " 端云协同 " 是手机厂商部署大模型时的普遍选择。云端千亿级别大模型解决复杂的需要大算力、大参数模型的问题，手机端测的自研模型通常用来运行数据安全性高、需要实时反馈、网络条件较差的轻量化问题。

vivo 发布蓝心大模（来源：vivo）

记者发现，vivo 发布的蓝心大模型就分为千亿、百亿和十亿三个量级，70 亿级大模型部署在端侧，负责解决用户的简单问题，复杂问题仍需联网向云端的千亿大模型 " 借智 "。

记者在采访时了解到，" 云端协同 " 成为现阶段最优方案，但智能手机端侧布局大模型是终极方案。为何端侧部署 AI 大模型如此重要呢？

首先，智能手机端侧 AI 大模型对高速网络的依赖度更低，反应更迅速。比如，高通最新的第三代骁龙 8 移动平台处理器能够将生成图像的时间从 15 秒降至不到 1 秒，接入 AI 大模型的小米 14 和荣耀 Magic6 都搭载了第三代骁龙 8 移动平台处理器。

此外，AI 大模型部署在端侧更经济，也利于保护用户隐私。vivo 副总裁、vivo AI 全球研究院院长周围透露：" 云端大模型成本高是个不容忽视的问题，大模型一次对话差不多要 0.012 元到 0.015 元。如果有两三亿用户，一天用 10 次，一年下来要超过上百亿元的开销，高昂的成本制约了大模型的很多应用可能。"

谈到端侧 AI 大模型的隐私安全保护优势，小米相关负责人表示，借助 AI 大模型，在没有网络的环境下，用户可以通过自然语言在本地图库中完成快捷搜索，例如直接搜索 " 绿色的冰激凌 "，AI 大模型就可以帮助用户找到所有包含绿色冰激凌的图片，全程无联网充分保障了用户的隐私安全。

芯片不能承受之重？

端侧 AI 大模型是手机厂商们的 " 必争之地 "，然而，AI 大模型走进手机对芯片提出了更高要求。在算力、存储方面，手机芯片该如何满足端侧大模型千百亿级的参数要求呢？

高通、联发科等手机芯片企业已经开始布局。10 月 24 日，高通发布第三代骁龙 8，在端侧可运行超 100 亿参数的大模型，面向 70 亿参数的大预言模型每秒可生成 20 个 token，在终端侧只需 0.5 秒就能利用 Stable Diffusion 完成文生图。

10 月 24 日，高通推出第三代骁龙 8 芯片，在 CPU 上采用 1 5 2 的八核架构设计，具体包括一个 3.3GHz 的 Cortex-X4 超大核，五个 3.2GHz 的 Cortex-A720 大核，以及两个 2.3GHz 的 Cortex-A530 小核，相较前代 CPU 峰值性能提升 30%，能效提升 20%。

第三代骁龙 8 移动平台（来源：高通官网）

据悉，骁龙 8 Gen3 重新设计 AI 计算单元，采用全新微架构推出 Hexagon NPU，最高支持 45 TOPS 算力，AI 计算能力提升 98%，能效提升 40%。

联发科自然也不甘示弱，11 月 6 日晚间，联发科发布专为生成式 AI 设计的第七代 AI 处理器 APU 790，内置硬件级生成式 AI 引擎，处理速度是上一代的 8 倍，能实现更加高速且安全的边缘 AI 计算。

此外，联发科官宣旗舰 5G 生成式 AI 移动芯片天玑 9300。在 CPU 上创造性地采用了 " 全大核 " 的架构，最高频率可达 3.25GHz，包含 4 个 Cortex-X4 超大核、4 个主频为 2.0GHz 的 Cortex-A720 大核，峰值性能较上一代提升 40%，功耗节省 33%。

针对 AI 大模型参数大、内存大的难题，联发科大幅减少 AI 大模型对终端内存的占用，支持终端运行 10 亿、70 亿、130 亿、最高可达 330 亿参数的 AI 大语言模型。

vivo 首发联发科 AI 芯片天玑 9300（来源：vivo）

11 月 13 日 vivo 发布的高端旗舰新品 X100 系列，作为全球首个百亿大模型在终端调通的大模型手机，首发搭载了联发科 AI 芯片天玑 9300。

中科计算技术西部研究院战略专家王军辉表示，未来端侧 AI 大模型的部署 " 一方面要探索适合轻量级部署的模型，另一方面要推出匹配大模型的加速器，在算力、效率和能耗上找到合适的平衡点 "。

尽管高通、联发科等手机芯片企业为手机 AI 大模型端侧部署提供了一个权宜、暂时的解决方案，但真正让 AI 大模型重塑手机功能和生态还有很长的路要走，现在芯片设计体系还远远达不到大模型千亿级参数对算力、存储、能耗等各方面的要求。

还要肩负其他厚望

AI 大模型无论是端侧部署还是云端部署，都会给用户带来不一样的体验。

华为手机用户参加画展拍下感兴趣的画作图片，发给小艺智能助手，借助 AI 视觉大模型，画家和画作的相关信息立即反馈，仿佛百科全书。

撰写英文邮件毫无头绪，vivo 用户可以求助 " 蓝心千询 " 自然语言对话机器人，几句简单的中文描述邮件的主要意图，文字规整的英文邮件便 " 跃然纸上 "。

小米 HyperMind 思考中枢能够自主理解用户的使用偏好和生活习惯，为每天早上 9 点出发上班的用户，自动生成和推送通勤交通建议。

在手机同质化越发严重的当下、厂商难以挖掘新的增长点之时，AI 大模型被寄予了沉甸甸的期望。

"AI 大模型很难在现阶段或者近几年带动手机的销量上升。"GfK 中国科技事业部资深分析师侯林接受《中国电子报》记者采访时表示，AI 大模型仅能为手机锦上添花，当前还看不到颠覆性的变化。但从长期来看，AI 大模型与智能手机不断磨合进步，具备用户离不开的能力时，可能会带动中国乃至全球的换机潮。

另外，AI 大模型部署在端侧可能会沉淀大量用户数据在手机上，会让智能手机从标准商品走向千人千面，用户在一款手机沉淀下的数据，会增强用户与品牌之间的黏性，甚至会带动消费者购买同品牌的其他终端产品。

小米 " 人车家全生态 " 战略（来源：小米）

例如，被 AI 大模型加持的澎湃 OS 将手机、全屋智能与汽车串联起来，形成 " 人车家全生态 "，系统将会 " 越用越懂用户 "。用户白天在公司上班，系统会自动开启离家模式，家里的一切安防设备会自动打开；用户晚上到家后，系统将开启在家模式，智能窗帘会关闭，智能空调会根据天气和用户习惯打开到合适的温度。

此外，沉淀了用户隐私数据和语言风格的端侧 AI 大模型将具备更多定制化能力，或将拉动手机厂商的软性服务。