vLLM-Omni v0.16.0 发布:多模态推理性能大幅提升
vLLM-Omni v0.16.0 正式发布,合并 121 个 PR,来自约 60 位贡献者。基于上游 vLLM v0.16.0 重构,音频、语音、图像和视频推理管线性能显著提升。
查看原文本解读由 AI 自动生成 · 模板:事件解读 · 仅供参考,请以原文为准。
vLLM-Omni v0.16.0 正式发布,合并 121 个 PR,来自约 60 位贡献者。基于上游 vLLM v0.16.0 重构,音频、语音、图像和视频推理管线性能显著提升。
查看原文