vLLM：v0.20.0 发布，新增 DeepSeek V4 与 Hunyuan v3 预览支持

这次更新了什么？

vLLM 0.20.0 是一个集大成版本：752 个 commit、320 名贡献者共同完成。核心变化有三：

• CUDA 13 + PyTorch 2.11 + Transformers v5 升基线：这是近年来最大跨度的基础设施升级。新 CUDA 栈解锁了 Hopper 架构的更多特性，与 FlashAttention 4 的深度集成成为可能。
• FA4 成为 MLA prefill 默认实现：Multi-head Latent Attention（DeepSeek 系列的关键注意力架构）此前需要手动启用，现在开箱即用。官方数据显示 prefill 阶段吞吐提升约 30-40%。
• TurboQuant 2-bit KV 缓存容量提升 4 倍：传统 FP16 KV 缓存是内存大头。2-bit 量化后，同等显存可容纳的上下文长度翻 4 倍——这对长上下文任务（如 RAG、文档分析）意义重大。

新增模型支持

DeepSeek V4 和腾讯 Hunyuan v3 的预览支持值得注意。DeepSeek V4 预计是其 MoE 架构的下一代产品，Hunyuan v