MiniCPM-o 4.5已合并至vLLM-Omni,支持端到端全模态推理
vLLM-Omni集成MiniCPM-o 4.5(9B参数),实现文本/图像/音频/视频输入、文本+语音输出的端到端全模态服务,首版支持单工非流式推理,复用流式双工功能即将推出。
查看原文本解读由 AI 自动生成 · 模板:事件解读 · 仅供参考,请以原文为准。
vLLM-Omni集成MiniCPM-o 4.5(9B参数),实现文本/图像/音频/视频输入、文本+语音输出的端到端全模态服务,首版支持单工非流式推理,复用流式双工功能即将推出。
查看原文