GradCuit：信用分配梯度流实现鲁棒可解释的测试时潜在推理

基于优化的潜在推理通过在测试时优化特定实例的连续状态来提升大语言模型输出，同时保持模型参数冻结。然而现有方法通常通过解码后的token将这些状态与推理轨迹相连，导致序列级信用分配间接化，模糊了潜在更新如何影响后续推理。我们提出GradCuit（梯度通过电路），在选定Transformer层的提示隐藏表示与生成续写之间插入可优化的潜在状态。