代理探索与可复用指导：基于代理引导更新信号的模块化 LLM 后训练范式

后训练对提升LLM领域能力至关重要，但现有方法将策略探索与分布对齐耦合，导致昂贵探索直接作用于策略模型，阻碍信号复用和跨模型迁移。本文提出PUST，一种将更新信号探索与分布对齐解耦的后训练框架。