vLLM支持StepFun AI模型
vLLM与NVIDIA合作，在DGX Station上运行StepFun_ai的Step-3.7-Flash模型。提供本地运行和生产环境两种部署方式，均支持NVIDIA NIM容器。
查看原文本解读由 AI 自动生成 · 模板：事件解读 · 仅供参考，请以原文为准。
vLLM与NVIDIA合作，在DGX Station上运行StepFun_ai的Step-3.7-Flash模型。提供本地运行和生产环境两种部署方式，均支持NVIDIA NIM容器。
查看原文