Kimi：开源推理框架 Mooncake 诞生于月之暗面与清华合作
Kimi (月之暗面) 分享 Mooncake 开源项目的起源故事，该框架源于与清华大学的合作研究，旨在解决大规模模型服务中的内存墙问题，已发展为社区驱动的项目。
查看原文Mooncake 起源于 Kimi 与清华的学术合作，瞄准大模型推理中的内存墙问题，如今已演变为社区驱动的开源项目。但这是发布公告而非评测——没有 benchmark 分数，无法判断其实际性能是否优于 vLLM、TensorRT-LLM 等竞品。
这测了什么？
严格来说，本次分享是 Mooncake 的"考古"——讲述一个开源推理框架如何从月之暗面与清华苏汐团队的研究合作中诞生。原始推文并未公布任何量化性能数据（如吞吐、延迟、内存利用率对比），因此它不属于传统意义上的 Benchmark 评测。
然而，Mooncake 的技术定位是明确的：它试图解决 MoE（Mixture of Experts）大模型推理中的"内存墙"问题——即 HBM 带宽限制导致算力无法被充分利用。苏汐等人在论文《Mooncake: A KVCache-centric Disaggregated Architecture for LLM Serving》中提出了基于 KVCache 分离式架构的思路，这与 vLLM 的 PagedAttention、TensorRT-LLM 的优化路径有本质差异。
方法论质疑
由于原始内容是"起源故事"而非评测报告，这里存在一个结构性缺陷：
- 无分数、无对比基准：社区流传的 Mooncake benchmark 数据大多来自 2024 年的早期测试，与当前版本的直接比较数据缺失；
- 适用场景边界模糊
● 未登录访客SMARTFLOW PRO
继续阅读深度解读 + 编辑加注
下方还有 3-5 段深度分析 + Vincent 编辑加注 + 可点击信源，仅 Pro 会员可见
加入机智流 PRO →¥99 / 季 · 每周 1 篇深度研报 · 飞书+微信群双通道
已是 Pro 但仍被提示？联系反馈
- Kimi：开源推理框架 Mooncake 诞生于月之暗面与清华合作 · 2026-02-13
- Mooncake GitHub Repository · 2026-02-13