vLLM 发布 v0.26.0
vLLM v0.26.0 发布,含 411 次提交(212 位贡献者):新增 Inkling 模型族全栈支持、DeepSeek-V4 专用路由内核与 fused topK(1.5–2x 提速)、分层 KV 卸载与对象存储分级、Rust 前端扩展(多模态音视频/工具解析)及 Transformers 5.13.0 集成。
查看原文解读生成中或暂时不可用,请稍后刷新重试,或直接查看原文。
vLLM v0.26.0 发布,含 411 次提交(212 位贡献者):新增 Inkling 模型族全栈支持、DeepSeek-V4 专用路由内核与 fused topK(1.5–2x 提速)、分层 KV 卸载与对象存储分级、Rust 前端扩展(多模态音视频/工具解析)及 Transformers 5.13.0 集成。
查看原文