开源 @GitHub 2026-03-24

OmniInfer：跨平台 LLM 推理框架，专为边缘设备部署

高效的跨平台 LLM 推理框架，专注边缘设备部署优化。C++ 实现，GitHub 103 Stars。

本解读由 AI 自动生成 · 模板：事件解读 · 仅供参考，请以原文为准。