面壁智能联合 OpenBMB 社区发布 MiniCPM-V 4.7,依靠 MoE 混合专家架构与自研 LES 前瞻专家调度技术,成功将总参数 350 亿的 35B-A3B 多模态大模型部署到手机设备上,这标志着把 350 亿参数模型塞进手机这件事,面壁智能已经迈出关键第一步。传统 350 亿参数模型想要在手机运行,会占用极大运行内存,普通手机运存完全承载不了,而这套方案不会把全部模型权重都放在运行内存,只把当下计算需要的部分专家调入内存,其余权重保存在手机闪存,仅占用约 3GB 运行内存就能完成推理。在 iPhone 18 Pro Max 设备实测,模型初始解码速度达到 20.51 token/s,后续优化版本已经突破 30 token/s,可支持图文、视频理解这类多模态任务。不过官方表示这只是起步,后续还要持续优化功耗、适配更多安卓机型、降低部署门槛,距离大规模商用普及还有不少工作要推进。
模型核心信息清单
- 模型名称:MiniCPM-V 4.7 35B-A3B
- 总参数量:350 亿参数,每次推理仅激活约 30 亿参数
- 核心技术:MoE 混合专家架构 + LES 前瞻专家调度技术
- 运行内存占用:约 3GB
- 实测设备:iPhone 18 Pro Max
- 解码速度:优化前 20.51 token/s,优化后可达 30 token/s 以上
- 模型能力:支持图片、多图、视频理解,多模态问答分析
事件经过梳理
- 模型发布:10 月 13 日,面壁智能联合 OpenBMB 社区正式开源 MiniCPM-V 4.7,推出 35B-A3B 版本。
- 技术沟通:11 月技术分享会上,对外公布手机端实测数据,展示 350 亿参数模型在手机上流畅推理效果。
- 行业定性:行业媒体评价,把 350 亿参数模型塞进手机的目标,面壁智能只完成第一步,距离大规模落地还有持续优化空间。
【相关 FAQ】
问题 1:面壁智能把 350 亿参数模型塞进手机,核心依靠什么技术?
回答 1:面壁智能把 350 亿参数模型塞进手机,核心依靠 MoE 混合专家架构和自研 LES 前瞻专家调度技术,不用一次性加载全部模型权重,按需调取专家模块,大幅降低手机运行内存占用,让 350 亿参数模型可以在手机运行,完成把 350 亿参数模型塞进手机的第一步。
问题 2:面壁智能把 350 亿参数模型塞进手机,这个模型在手机运行需要多大运存?
回答 2:面壁智能把 350 亿参数模型塞进手机,MiniCPM-V 4.7 的 35B-A3B 版本在手机上推理仅占用约 3GB 运行内存,也是实现把 350 亿参数模型塞进手机、完成第一步的关键。
问题 3:面壁智能把 350 亿参数模型塞进手机,为什么说只是完成第一步?
回答 3:面壁智能把 350 亿参数模型塞进手机,虽然已经在 iPhone 旗舰机实现流畅推理,但还要优化功耗、适配更多安卓机型、降低部署成本,面向普通消费者大规模商用还需要持续迭代,所以说把 350 亿参数模型塞进手机,面壁只完成了第一步。
【参考资料】
[2026-11-20](把 350 亿参数模型塞进手机,面壁只完成了第一步)腾讯新闻
[2026-11-11](35B 模型跑进手机,面壁智能押注端侧 AI 的下一阶段)每经网
[2026-11-09](在手机里如何塞下更大的端侧模型?面壁智能提供新答案)界面新闻
[2026-10-13](面壁智能发布 MiniCPM-V 4.7,35B 开源大模型无损流畅跑上手机)环球网科技
【免责声明】
本内容仅为 AI 科技资讯信息整理,技术参数、实测数据来源于企业发布会与媒体报道,不代表我方立场;模型后续迭代、设备适配进展,请以面壁智能官方最新发布为准,信息仅供技术参考。
本文来自作者[极域帧码]投稿,不代表新投网立场,如若转载,请注明出处:https://www.eastpo.net/shangye/202611/2218.html
评论列表(4条)
我是新投网的签约作者“极域帧码”!
希望本篇文章《面壁智能实现 350 亿参数模型手机端运行,把 350 亿参数模型塞进手机完成第一步》能对你有所帮助!
本站[新投网]内容主要涵盖:互联网行业的追踪与探索
本文概览:面壁智能联合 OpenBMB 社区发布 MiniCPM-V 4.7,依靠 MoE 混合专家架构与自研 LES 前瞻专家调度技术,成功将总参数 350 亿的 35B-A3B 多模态大模型部署到手机设备上,这标志着把 350 亿参数模型塞进手机这件事,面壁智能已经迈出关键第一步。传统 350 亿参数模型想要在手机运行,会占用极大运行内存,普通手机运存完全承载不了,而这套方案不会把全部模型权重都放在运行内存,只把当下计算需要的部分专家调入内存,其余权重保存在手机闪存,仅占用约 3GB 运行内存就能完成推理。在 iPhone 18 Pro Max 设备实测,模型初始解码速度达到 20.51 token s,后续优化版本已经突破 30 token s,可支持图文、视频理解这类多模态任务。不过官方表示这只是起步,后续还要持续优化功耗、适配更多安卓机型、降低部署门槛,距离大规模商用普及还有不少工作要推进。