MiniCPM-V & MiniCPM-o · 把看、听、交互,带到你的端侧设备上。
MiniCPM-V 4.7 🤗 35B-A3B 🤗 1B 🤖 MiniCPM-o 4.5 🤗 🤖
MiniCPM-V 4.7 是 MiniCPM-V 系列的最新模型,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。主要特点包括:
完整性能对比(35B-A3B,Instruct)
Vision-Language
Language
完整性能对比(1B,Instruct)
让 MoE 在端侧运行只是起点,真正的挑战是同时保留模型能力与流畅的生成速度。将专家权重存放在 SSD 中可以突破内存容量限制,但若加载与计算无法有效并行,频繁的加载等待就会拖慢生成;限制专家数量、固定专家集合等方式虽能提速,却可能以模型能力退化为代价。
为了解决这一两难问题,MiniCPM-V 4.7 提出前瞻专家调度技术,在不牺牲模型能力条件下实现 x5 的端侧真实加速。通过跨层路由预测,提前加载下一层可能用到的专家并优先计算已加载的专家,显著减少了加载等待时间;同时,结合权重量化与存储布局优化策略,减少权重存储重和读取分散的问题,显著提升加载速度。推理优化前后的生成速度对比:
MiniCPM-o 4.5 是 MiniCPM-o 系列的最新模型,是一个 9B 端到端全模态模型。它可以在生成语音和文字的同时持续接收视频与音频输入,实现边看、边听、边说的实时交互。
模型亮点:
| MiniCPM-V 4.7 | MiniCPM-o 4.5 | |
|---|---|---|
| 模型规格 | 35B-A3B MoE · 1B | 9B 端到端全模态模型 |
| 核心能力 | 单图、多图、文档与视频理解 | 视觉理解、语音理解与生成 |
| 技术特性 | 4 倍/16 倍混合视觉 token 压缩;35B-A3B 端侧无损流畅推理 | 全双工多模态实时交互,生成语音与文字时持续接收音视频输入 |
| 模型指南 | MiniCPM-V 4.7 模型指南 | MiniCPM-o 4.5 模型指南 |
| 效果示例 | 典型示例 | 典型示例 |
| 评测结果 | 性能评估 | 性能评估 |
| MiniCPM-V 4.7 | MiniCPM-o 4.5 |
|---|---|
| 模型权重 | 模型权重 |
| 推理 | 推理 |
| 微调 | 微调 |
| 在线体验 | 在线体验 |
| 本地部署 | 本地部署 |
| API | |
| Cookbook | |
2026-10-12 · MiniCPM-V 4.7 发布 — 首个端侧无损流畅运行的开源 MoE 模型,刷新多模态性能—效率帕累托前沿。查看这一代的新变化。
2026-06-25 · MiniCPM-V 4.6 加入 Ollama 官方模型库。
2026-05-17 · 发布 MiniCPM-V 4.6 与 MiniCPM-o 4.5 的 API 服务。
2026-05-11 · 发布 MiniCPM-V 4.6,支持 4 倍/16 倍混合视觉 token 压缩与移动端部署。
| 社区项目 | 可以探索的用法 |
|---|---|
| OpenAvatarChat | 在单台 PC 上实现交互式数字人对话 |
| Ollama-OCR | 通过本地视觉语言模型提取图像和 PDF 中的文字 |
| comfyui_LLM_party | 把语言与视觉模型接入 ComfyUI 工作流 |
社区项目支持的模型代际可能不同,请查看各自的模型列表。更多社区作品
| 类别 | 链接 |
|---|---|
| 模型文档 | MiniCPM-V 4.7 · MiniCPM-o 4.5 |
| 部署与开发 | 部署与训练 · Cookbook · 文档网站 |
| 论文资料 | 技术报告与相关论文 |
| 版本与更新 | 历史模型 · 完整更新记录 |
| 社区交流 | Discord · 微信 · 飞书 / Lark · MiniCPM 知识库 |
| 协议与声明 | Apache-2.0 · 模型协议 · 使用声明 |
本项目由 清华大学自然语言处理实验室和面壁智能共同开发,代码与模型权重采用 Apache-2.0 协议。
如果您觉得我们模型/代码/论文有帮助,请给我们 ⭐ 和 引用 📝,感谢!
@misc{cui2026minicpmo45realtimefullduplex,
title={MiniCPM-o 4.5: Towards Real-Time Full-Duplex Omni-Modal Interaction},
author={Junbo Cui and Bokai Xu and Chongyi Wang and Tianyu Yu and Weiyue Sun and Yingjing Xu and Tianran Wang and Zhihui He and Wenshuo Ma and Tianchi Cai and others},
year={2026},
url={https://arxiv.org/abs/2604.27393},
}
@proceedings{yu2025minicpmv45cookingefficient,
title={MiniCPM-V 4.5: Cooking Efficient MLLMs via Architecture, Data, and Training Recipe},
author={Tianyu Yu and Zefan Wang and Chongyi Wang and Fuwei Huang and Wenshuo Ma and Zhihui He and Tianchi Cai and Weize Chen and Yuxiang Huang and Yuanqian Zhao and others},
year={2025},
url={https://arxiv.org/abs/2509.18154},
}
@article{yao2024minicpm,
title={MiniCPM-V: A GPT-4V Level MLLM on Your Phone},
author={Yao, Yuan and Yu, Tianyu and Zhang, Ao and Wang, Chongyi and Cui, Junbo and Zhu, Hongji and Cai, Tianchi and Li, Haoyu and Zhao, Weilin and He, Zhihui and others},
journal={arXiv preprint arXiv:2408.01800},
year={2024}
}