面壁智能开源 MiniCPM-V 4.7，35B-A3B MoE 模型可在 3GB 内存端侧流畅运行

面壁智能联合 OpenBMB 社区于 10 月 13 日发布并开源 MiniCPM-V 4.7，包含 35B-A3B 和 1B 两个版本。官方称其是全球首个可在端侧无损流畅运行的开源 MoE 多模态大模型，并在 3GB 内存条件下实现端侧流畅运行。

此前开源多模态大模型多以稠密架构为主，端侧部署往往受内存和算力限制。此次以 MoE 架构实现 35B 总参数、3B 激活参数，并称可在 3GB 内存端侧运行，若属实，将降低多模态模型在终端设备上的部署门槛。

MoE 架构通过稀疏激活，在推理时只调用部分参数，使总参数量与单次计算量解耦；35B-A3B 表示总参数 35B、激活参数约 3B，因此在内存占用和计算量上更接近小模型，同时保留较大的参数容量。多模态能力则来自视觉与语言模块的联合训练。

对产品与研发而言，端侧多模态推理可在不依赖云端的情况下处理图像与文本任务，有助于降低 API 调用成本、减少数据传输延迟，并满足隐私敏感场景的本地处理需求。若 3GB 内存运行条件成立，中低端手机、平板和边缘设备也可承载多模态功能。

• 在手机或平板端集成 MiniCPM-V 4.7 1B 版本，验证离线图像问答、文档识别等功能的实际延迟与功耗。
• 针对 3GB 内存端侧运行条件，测试 35B-A3B 量化版本在主流中端芯片上的首 token 延迟与持续吞吐。
• 面向隐私敏感场景，如本地相册检索或医疗影像初筛，评估端侧多模态推理替代云端 API 的可行性。
• 基于 OpenBMB 开源协议，评估将模型蒸馏或微调到垂直行业端侧应用的合规与工程成本。

• “3GB 内存端侧流畅运行”具体指哪个版本、何种量化精度与硬件平台，证据未说明。
• “无损流畅运行”的评测基准、对比对象和量化指标未在证据中给出。
• 35B-A3B 与 1B 两个版本各自的能力差异、适用场景和许可条款尚未明确。
• 该模型在真实端侧设备上的功耗、发热与持续推理稳定性尚无独立验证。