VIA-SD：基于模型内路由的推测解码验证

VIA-SD引入多层级推测解码框架，通过模型内路由机制利用轻量子模型验证中等置信度token，从而降低验证成本，显著提升推理速度。

查看原文