vLLM 被 AMD 选为 GPU MODE 黑客松推理框架,总奖金 65 万美元
AMD 选定 vLLM 为 GPU MODE 黑客松指定推理框架,挑战在 8 块 MI355X 上优化 Kimi K2.5 1T FP4 推理性能,获胜优化需合入上游代码。
查看原文本解读由 AI 自动生成 · 模板:事件解读 · 仅供参考,请以原文为准。
AMD 选定 vLLM 为 GPU MODE 黑客松指定推理框架,挑战在 8 块 MI355X 上优化 Kimi K2.5 1T FP4 推理性能,获胜优化需合入上游代码。
查看原文