vLLM v0.22.0发布

产品是什么？

vLLM是开源大模型推理框架，以PagedAttention技术著称，通过分页内存管理实现高吞吐、低显存占用的LLM Serving。v0.22.0是2025年中的重大版本更新，459个提交来自230位贡献者——参与规模创历史新高。

核心新特性解读

1. DeepSeek V4深度优化：这是本次最大亮点。DeepSeek V4采用FP8混合专家（MoE）架构，vLLM v0.22.0针对NVFP4（NVIDIA FP4）精度提供原生支持，配合CUDA图（CUDA Graphs）减少kernel launch开销，理论上能显著提升DeepSeek系列模型的吞吐量。ROCm（AMD GPU）后端支持也在列，意味着vLLM开始真正向多芯片生态扩展。

2. Rust前端实验版本：vLLM传统使用Python前端，Rust版本的实验性引入指向更快的请求调度和更低的overhead。对延迟敏感场景（如实时对话）有潜在价值，但目前仍是实验阶段，生产环境需谨慎。

3. Cutlass FP8扩展：Cutlass是NVIDIA的CUDA C++模板库，vLLM通过其实现FP8 GEMM（矩阵乘法）加速，进一步释放