面壁智能推出 MiniCPM 4.0 端侧大模型，引领端侧智能新变革

在 2025 智源大会期间，面壁智能重磅发布了开源模型 MiniCPM 4.0 的两个新版本（0.5B、8B），代号「前进四」。此次发布在人工智能领域引发了广泛关注，标志着端侧大模型技术取得了重大突破。

卓越性能，树立行业新标杆

MiniCPM4-0.5B 训练开销仅为 Qwen3-0.6B 的 2.7%，却以一半参数量实现了性能翻倍，综合得分平均分高达 52.06 分，远超同类模型。面壁科技发布的 0.5B 三级量化版本，平均得分更是达到了 56 分，成绩斐然。MiniCPM4-8B 训练开销仅 22%，加入长下文稀疏化版本后，做到了同等参数、性能更强。其综合得分对标 Qwen3-8B、超越 Gemma3-12B，在同类端侧模型排行榜中分数排名第一。面壁智能 CEO 李大海总结说，MiniCPM4 模型最大的特点就是快。在 Jetson Orin AGX（64G）或 RTX 4090（24G）硬件上运行 128K 长文本时，像 Qwen3-8B 这样没做过上下文稀疏化的模型，显存不够用，需要用 CPU 内存，offload 导致速度急速下降；而 MiniCPM4-8B 做了快速稀疏化工作，可将占用的低长文本缓存降至 1/4，在常规场景里至少可以取得 3-5 倍的速度优势。在显存受限的极限场景中，MiniCPM4 的测试数据甚至可以快到 220 倍。

创新技术，驱动高效运行

架构创新

MiniCPM4 采用了 InfLLM 2.0 混合稀疏注意力结构。该架构采用类似于检索的思路，对文本分块分区域处理，只对最具相关性重点区域进行注意力计算 “抽查”，更加高效。通过这种方式，面壁智能可将稀疏度降到 5%，将计算量降到 10%。同时，面壁智能还创新地采用了高效的自动双频换挡技术，长文本用稀疏方案，短文本用稠密方案。针对单一架构难以兼顾长、短文本不同场景的技术难题，MiniCPM 4.0-8B 采用「高效双频换挡」机制，能够根据任务特征自动切换注意力模式：在处理高难度的长文本、深度思考任务时，启用稀疏注意力以降低计算复杂度，在短文本场景下切换至稠密注意力以确保精度，实现了长、短文本切换的高效响应。

推理优化

面壁智能希望尽可能简化端侧模型部署的复杂度，自研了 “三级火箭” 推理框架。其一，自研端侧高性能推理框架 CPM.cu，实现稀疏、投机和量化的高效结合，通过 FR-Spec 轻量化投机采样，相比原始模型提速 2 倍，让小模型给大模型当实习生，给小模型减负加速，速度提升超 5 倍。其二，极致低位宽量化 BitCPM，端侧低内存容量部署友好，4bit 量化达到业界 SOTA 等级，3 倍量化，可瘦身 90%。其三，自研跨平台部署框架 Arkinfer，面向多平台端侧芯片极致优化，跨平台高效投机采样和限制解码，支持端侧多平台 Model Zoo 的丝滑使用，速度提升 2 倍。

数据与训练优化

MiniCPM4 模型还有一个重要优势：只用了非常少的高质量训练语料。一方面，Ultra-FineWeb 采用高效数据严格筛选机制，可构建万亿高质量数据集，通过 “半成品加工法” 高效验证，先训一个’半熟” 模型，再用新数据快速微调，能够将成本降低 90%；用 fastText 工具进行大语言模型质检，处理 15 万亿数据只需 1000 小时 CPU。另一方面，UltraChat-v2 实现高能力密度数据合成，可构建大规模知识密集型、推理密集型、指令遵循型、长文本处理型、工具调用型等多样化的有监督微调数据。另外，在模型训练过程中，采用 FP8 训练，以低精度加速模型计算，提升训练效率；采用 MTP 监督信号，提供更稠密的监督信号，提升模型数据利用率。

丰富应用，拓展智能边界

面壁智能的 MiniCPM4-MCP 模型，在端侧利用 MCP 协议，支持 15 个主流应用，取得了很高的综合评测表现得分。另一个 MiniCPM4-Survey 端侧版可在 AI PC 上构建 Deep Research（深度研究）服务，是一个离线可用的随身研究报告利器，有助于保护本地隐私数据。

广泛适配，构建开放生态

面壁小钢炮正在进行广泛的生态适配，适配主流芯片与开源框架部署。目前，MiniCPM4 已经可以在华为昇腾、联发科、高通等主流芯片上流畅运行，也支持 vLLM、AutoGPT 等推理框架，欧拉版正在积极适配中。面壁智能与英特尔紧密合作，首次端侧解锁 128K 长上下文窗口，在英特尔平台上基于 InfLLM 2.0 稀疏注意力结构已实现 3.8 倍加速的推理优化效果。

总体来看，MiniCPM4 以更少参数量实现出色性能的背后，是面壁智能从架构层、系统层、推理层到数据层的层层优化。作为国内端侧模型代表，面壁智能旗下模型矩阵已覆盖基座模型 MiniCPM、旗舰多模态模型 MiniCPM-V、旗舰全模态模型 MiniCPM-o，全球下载量超千万。MiniCPM 4.0 的推出，无疑为端侧智能的发展注入了新的活力，有望在更多领域实现落地应用，推动人工智能技术的普及与发展。