面壁智能实现 350 亿参数模型手机端运行,把 350 亿参数模型塞进手机完成第一步

面壁智能联合 OpenBMB 社区发布 MiniCPM-V 4.7,依靠 MoE 混合专家架构与自研 LES 前瞻专家调度技术,成功将总参数 350 亿的 35B-A3B 多模态大模型部署到手机设备上,这标志着把 350 亿参数模型塞进手机这件事,面壁智能已经迈出关键第一步。传统 350 亿参数模型想要在手机运行,会占用极大运行内存,普通手机运存完全承载不了,而这套方案不会把全部模型权重都放在运行内存,只把当下计算需要的部分专家调入内存,其余权重保存在手机闪存,仅占用约 3GB 运行内存就能完成推理。在 iPhone 18 Pro Max 设备实测,模型初始解码速度达到 20.51 token/s,后续优化版本已经突破 30 token/s,可支持图文、视频理解这类多模态任务。不过官方表示这只是起步,后续还要持续优化功耗、适配更多安卓机型、降低部署门槛,距离大规模商用普及还有不少工作要推进。

模型核心信息清单

  • 模型名称:MiniCPM-V 4.7 35B-A3B
  • 总参数量:350 亿参数,每次推理仅激活约 30 亿参数
  • 核心技术:MoE 混合专家架构 + LES 前瞻专家调度技术
  • 运行内存占用:约 3GB
  • 实测设备:iPhone 18 Pro Max
  • 解码速度:优化前 20.51 token/s,优化后可达 30 token/s 以上
  • 模型能力:支持图片、多图、视频理解,多模态问答分析

事件经过梳理

  1. 模型发布:10 月 13 日,面壁智能联合 OpenBMB 社区正式开源 MiniCPM-V 4.7,推出 35B-A3B 版本。
  2. 技术沟通:11 月技术分享会上,对外公布手机端实测数据,展示 350 亿参数模型在手机上流畅推理效果。
  3. 行业定性:行业媒体评价,把 350 亿参数模型塞进手机的目标,面壁智能只完成第一步,距离大规模落地还有持续优化空间。

【相关 FAQ】

问题 1:面壁智能把 350 亿参数模型塞进手机,核心依靠什么技术?

回答 1:面壁智能把 350 亿参数模型塞进手机,核心依靠 MoE 混合专家架构和自研 LES 前瞻专家调度技术,不用一次性加载全部模型权重,按需调取专家模块,大幅降低手机运行内存占用,让 350 亿参数模型可以在手机运行,完成把 350 亿参数模型塞进手机的第一步。

问题 2:面壁智能把 350 亿参数模型塞进手机,这个模型在手机运行需要多大运存?

回答 2:面壁智能把 350 亿参数模型塞进手机,MiniCPM-V 4.7 的 35B-A3B 版本在手机上推理仅占用约 3GB 运行内存,也是实现把 350 亿参数模型塞进手机、完成第一步的关键。

问题 3:面壁智能把 350 亿参数模型塞进手机,为什么说只是完成第一步?

回答 3:面壁智能把 350 亿参数模型塞进手机,虽然已经在 iPhone 旗舰机实现流畅推理,但还要优化功耗、适配更多安卓机型、降低部署成本,面向普通消费者大规模商用还需要持续迭代,所以说把 350 亿参数模型塞进手机,面壁只完成了第一步。

【参考资料】

[2026-11-20](把 350 亿参数模型塞进手机,面壁只完成了第一步)腾讯新闻

[2026-11-11](35B 模型跑进手机,面壁智能押注端侧 AI 的下一阶段)每经网

[2026-11-09](在手机里如何塞下更大的端侧模型?面壁智能提供新答案)界面新闻

[2026-10-13](面壁智能发布 MiniCPM-V 4.7,35B 开源大模型无损流畅跑上手机)环球网科技

【免责声明】

本内容仅为 AI 科技资讯信息整理,技术参数、实测数据来源于企业发布会与媒体报道,不代表我方立场;模型后续迭代、设备适配进展,请以面壁智能官方最新发布为准,信息仅供技术参考。

本文来自作者[极域帧码]投稿,不代表新投网立场,如若转载,请注明出处:https://www.eastpo.net/shangye/202611/2218.html

赞 (0)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 极域帧码
    极域帧码 2026年11月21日

    我是新投网的签约作者“极域帧码”!

  • 极域帧码
    极域帧码 2026年11月21日

    希望本篇文章《面壁智能实现 350 亿参数模型手机端运行,把 350 亿参数模型塞进手机完成第一步》能对你有所帮助!

  • 极域帧码
    极域帧码 2026年11月21日

    本站[新投网]内容主要涵盖:互联网行业的追踪与探索

  • 极域帧码
    极域帧码 2026年11月21日

    本文概览:面壁智能联合 OpenBMB 社区发布 MiniCPM-V 4.7,依靠 MoE 混合专家架构与自研 LES 前瞻专家调度技术,成功将总参数 350 亿的 35B-A3B 多模态大模型部署到手机设备上,这标志着把 350 亿参数模型塞进手机这件事,面壁智能已经迈出关键第一步。传统 350 亿参数模型想要在手机运行,会占用极大运行内存,普通手机运存完全承载不了,而这套方案不会把全部模型权重都放在运行内存,只把当下计算需要的部分专家调入内存,其余权重保存在手机闪存,仅占用约 3GB 运行内存就能完成推理。在 iPhone 18 Pro Max 设备实测,模型初始解码速度达到 20.51 token s,后续优化版本已经突破 30 token s,可支持图文、视频理解这类多模态任务。不过官方表示这只是起步,后续还要持续优化功耗、适配更多安卓机型、降低部署门槛,距离大规模商用普及还有不少工作要推进。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们