面壁开源 MiniCPM-V 4.7:首个能流畅跑端侧的 MoE,35B-A3B 在 iPhone 17 Pro Max 上 13+ tokens/s
面壁智能 10 月 12 日放出 MiniCPM-V 4.7,两个变体同时上线:35B-A3B(MiniCPM-V 系列首个 MoE)与 1B,均为 Apache-2.0。能力覆盖单图、多图与视频理解,方向仍是让模型跑在端侧。
端侧给出的数是:35B-A3B 在 iPhone 17 Pro Max 上解码 13+ tokens/s、占用约 3GB 内存;支撑它的是随本次一起发布的前瞻专家调度(Lookahead Expert Scheduling),配合分层细粒度量化与 DSpark 投机采样。官方口径是「首个在端侧不损性能即可流畅运行的开源 MoE」。效率上称 35B-A3B 在 Instruct 模式下用比 Qwen3.6 35B-A3B 更少的推理时间拿到更高的总成绩;1B 变体则在总成绩与推理效率上明显超过 Qwen3.5 0.8B。视觉侧沿用 LLaVA-UHD v4 的 ViT 内早期压缩,支持 4x/16x 混合视觉 token 压缩,让开发者按任务在视觉细节与推理成本之间取舍。
部署面:支持 iOS、Android 与鸿蒙,并对 Rockchip、Houmo、Intel、AMD、Arm 五家芯片平台做日 0 支持,权重同时放上 Hugging Face 与 ModelScope。边界要说清:逐项基准分数与性能—效率前沿曲线在模型卡里以图表(PNG)给出,本机没有读到可逐条引用的数值,正文只保留文字里出现的数字。
原文链接:面壁智能 / OpenBMB
核验记录
日期口径(本轮最关键的一环):HF 两仓的建仓 createdAt 分别是 35B-A3B 2026-10-07T07:07Z、1B 2026-10-06T17:40Z,但 10-07 那轮以「README 两条路径均 404、GitHub releases 仍以 4.6 为最新」判「有仓库 ≠ 有发布」不收,并留下复测动作。本轮复测:两仓模型卡(README)自 2026-10-12T16:08Z 起连续提交(add model card → update model card → metadata → get started → link LES doc,至 17:09Z),GitHub OpenBMB/MiniCPM-V 于 2026-10-12T15:57:01Z 与 16:21:23Z 两次提交 "Release MiniCPM-V 4.7",项目页 release hero 与文档随后上线(10-13 01:30–02:01Z 仍在补导航)。故正式发布日取 2026-10-12,建仓日 10-06/10-07 记在此处备查。⚠ GitHub Releases 页仍停在 20250527(该仓库用提交而非 release 标记),不构成「未发布」的证据。数字逐字取自模型卡与项目页 README(22,127 字节)与 docs/minicpm_v4dot7_en.md(22,573 字节):13+ tokens/s、约 3GB 内存、首个不损性能的端侧开源 MoE、4x/16x 混合视觉 token 压缩、五个芯片平台(Rockchip / Houmo / Intel / AMD / Arm)、Apache-2.0、Qwen3.6 35B-A3B 与 Qwen3.5 0.8B 两个对照。⚠ 逐项基准分数只存在于模型卡内的 PNG 图表,本机未读到可引用的数值,故正文不写分数。配图走 HF 社交缩略图,裸请求与带站内 Referer 双向 200 / PNG 1200×648、417,939 字节。
← 上一篇Ben Recht 拆解 OpenAI 的「更快 FFT」:常数约 10^100,属银河算法不属突破下一篇 →Anthropic 公布反蒸馏进展:蒸馏者能拿到的数据减少 90–99%,代价是拒掉数万亿 token 付费流量