vLLM：驱动 Chandra-OCR-2 大规模论文识别，单卡 L40S 每小时处理约 60 篇论文
vLLM 为 Chandra-OCR-2（5B 参数）提供推理支持，在 16 个并行任务下单卡 L40S 每小时处理约 60 篇论文，展示了 vLLM 在大规模 OCR 场景的性能。
查看原文本解读由 AI 自动生成 · 模板：事件解读 · 仅供参考，请以原文为准。
vLLM 为 Chandra-OCR-2（5B 参数）提供推理支持，在 16 个并行任务下单卡 L40S 每小时处理约 60 篇论文，展示了 vLLM 在大规模 OCR 场景的性能。
查看原文