+1
日增长
+86
周增长
+605
月增长
27,151
stars
2,130
forks
163
watchers
135
prs
990
issues
1
releases
README
MiniCPM-V & MiniCPM-o · 把看、听、交互,带到你的端侧设备上。 MiniCPM-V 4.7 🤗 35B-A3B 🤗 1B 🤖   MiniCPM-o 4.5 🤗 🤖 模型概览 · 开始使用 · 项目资源 | 中文 · English 最新动态 - [2026.10.28] 🔥🔥🔥 我们开源了 MiniCPM-OCR 套件,包含两个模型,兼顾快速准确解析与质量把关:MiniCPM-OCR 1.0(基于 MiniCPM-V 4.6,Real5-OmniDocBench 与 OCRBench v2 SOTA)和用于结果正确性检查的 MiniCPM-OCR Jev。 - 2026-10-15 · 我们发布了 MiniCPM-V 4.7 的 DSpark 投机采样头,两个尺寸均提供 BF16 和 GGUF 版本:1B(DSpark-BF16、DSpark-GGUF)和 35B-A3B(DSpark-BF16、DSpark-GGUF)。 - 2026-10-12 · MiniCPM-V 4.7 发布 — 首个端侧无损流畅运行的开源 MoE 模型,刷新多模态性能—效率帕累托前沿。查看这一代的新变化。 MiniCPM-V 4.7 MiniCPM-V 4.7 是 MiniCPM-V 系列的最新模型,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。主要特点包括: - 🚀 性能与效率的新帕累托前沿。 MiniCPM-V 4.7 以 35B-A3B 与 1B 分别刷新了多模态大模型的性能—效率的帕累托前沿。在 Instruct 模式下,35B-A3B 以更短的推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分;1B 版本相比 MiniCPM-V 4.6 持续提升基础能力,并在综合得分和推理效率上均显著领先 Qwen3.5 0.8B。 - 📱 首个端侧无损流畅的开源 MoE。基于最新的 LES(前瞻专家调度) 推理加速技术,MiniCPM-V 4.7 35B-A3B 成为首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。我们也适配了 DSpark 投机采样,并提供 1B(DSpark-BF16、DSpark-GGUF)和 35B-A3B(DSpark-BF16、DSpark-GGUF)的投机采样头。 - 🛠️ 多平台支持,开发者友好。 MiniCPM-V 4.7 同时支持 iOS、安卓和鸿蒙,并适配Intel、AMD、Arm、瑞芯微、后摩等芯片平台,覆盖更多移动设备与本地计算场景。同步开源 Self-Replay Fine-Tuning (SRFT) 微调方案,帮助开发者低成本扩展模型能力和减少遗忘,方便二次开发。 刷新性能与推理效率的帕累托前沿 完整性能对比(35B-A3B,Instruct) Vision-Language Language 完整性能对比(1B,Instruct) 无损且流畅的 MoE 端侧推理 让 MoE 在端侧运行只是起点,真正的挑战是同时保留模型能力与流畅的生成速度。将专家权重存放在 SSD 中可以突破内存容量限制,但若加载与计算无法有效并行,频繁的加载等待就会拖慢生成;限制专家数量、固定专家集合等方式虽能提速,却可能以模型能力退化为代价。 为了解决这一两难问题,MiniCPM-V 4.7 提出前瞻专家调度技术,在不牺牲模型能力条件下实现 x5 的端侧真实加速。通过跨层路由预测,提前加载下一层可能用到的专家并优先计算已加载的专家,显著减少了加载等待时间;同时,结合权重量化与存储布局优化策略,减少权重存储重和读取分散的问题,显著提升加载速度。推理优化前后的生成速度对比: 模型权重 MiniCPM-V 4.7 提供 35B-A3B 和 1B 两种规格。每行列出主模型权重及其对应的 DSpark 投机采样头,DSpark 均提供 BF16 和 GGUF 版本。 | 模型 | 简介 | 主&8288;模&8288;型&8288;权&8288;重&8288;下&8288;载 | DSpark 采&8288;样&8288;头 | |:---|:---|:---|:---| | MiniCPM&8209;V 4.735B-A3B | 首个可在端侧无损流畅运行的开源 MoE 模型,突破端侧性能上限。 | 🤗 BF16🤗 FP8🤗 int4🤗 AWQ🤗 GPTQ🤗 GGUF | 🤗 BF16🤗 GGUF | | MiniCPM&8209;V 4.71B | 兼顾能力提升与超高效率,多模态大模型效率-效果帕累托新前沿。 | 🤗 BF16🤗 int4🤗 AWQ🤗 GPTQ🤗 GGUF | 🤗 BF16🤗 GGUF | 1B int4 版本采用 bitsandbytes 量化;AWQ 和 GPTQ 均采用 W4A16 量化。量化版本可降低内存或显存占用;GGUF 权重支持 CPU 推理。 也可通过 Ollama 下载。 MiniCPM-o 4.5 MiniCPM-o 4.5 是 MiniCPM-o 系列的最新模型,是一个 9B 端到端全模态模型。它可以在生成语音和文字的同时持续接收视频与音频输入,实现边看、边听、边说的实时交互。 模型亮点: - 🔥 接近 Gemini 2.5 Flash 的视觉能力。 在 OpenCompass 的 8 项主流基准上取得 77.6 的平均分。仅 9B 参数,视觉理解超过 GPT-4o 和 Gemini 2.0 Pro,并在同一模型中支持指令模式与思考模式。 - 🎙 强大的语音能力。 支持音色可配置的中英双语实时语音对话,对话更加自然、富有表现力且稳定。也可通过简单的参考音频进行声音克隆和角色扮演,声音克隆表现超越 CosyVoice2 等优秀 TTS 工具。 - 🎬 全双工、可主动的实时交互。 以端到端的方式同时处理实时连续的视频和音频输入流,并同步生成文本和语音输出流,且互不阻塞。这使得 MiniCPM-o 4.5 能够同时“看、听、说”,提供流畅的实时全模
Top issues
#1150[BUG] Hallucination with minicpm-v-4.7-35b-a3b-abliterated-uncensored14 comments · 2026-10-13#1073请问MiniCPM-o 4.5现在支持LLaMA-Factory微调吗10 comments · 2026-02-12#1154running error using vllm with MiniCPM-V-4.7-35B-A3B-AWQ8 comments · 2026-10-15#1084How to finetune audio duplex ability?8 comments · 2026-03-12#1059💡 [REQUEST] - <title>模型能力支持双工实时语音对话模式吗?6 comments · 2026-02-06#1153[BUG] MiniCPM-V 4.7 Q4_K_M: JSON-only prompts return empty content (missing `</think>`)4 comments · 2026-10-15#1106MiniCPM-V-4.6-Instruct 这个模型,哪里可以下载4 comments · 2026-05-26#1075Demo deployment discussion4 comments · 2026-02-24
Discussions
#1155MiniCPM-V 4.7 1B photo questions on iPhone — integration demo1 comments · 2026-10-18#1108[Community] MiniCPM-V 4.6 integrated into StarVLA for robot manipulation1 comments · 2026-05-29#1107Shipping MiniCPM-V on-device in a consumer iOS app — launching on Product Hunt Tuesday1 comments · 2026-05-29#1083MiniCPM-o-4.5 可以大概进行多长时间的视频全双工交互呢?1 comments · 2026-03-10#995MiniCPM-V4.5是否可以做物体检测与分析这类任务?1 comments · 2025-09-02#992MiniCPM-V4.5的视觉能力如何提升?0 comments · 2025-09-01#980MiniCPM-V4.5会出技术报告或者论文吗?3 comments · 2025-08-29#968MiniCPM-v 4.5 vllm support1 comments · 2025-08-27
Latest release
MiniCPM-V & MiniCPM-o 20250527 2025-05-27Efficient multimodal large language models