LOCKR:基于隐状态轨迹引导检测与修复扩散语言模型的推理锁定问题
扩散语言模型通过迭代去噪生成文本。研究团队发现该类模型中存在一种“稳定但错误锁定”的推理故障,即答案在去噪阶段早期便过早稳定于错误结果。置信度、熵等常规表层解码信号难以有效区分正误锁定。为此,论文将选择性推理修复建模为轻量级测试时规划任务,并提出了 LOCKR,一种基于隐状态轨迹引导的规划器,专门用于检测与修复该问题。
推荐理由针对扩散语言模型迭代去噪中过早锁定错误答案的核心缺陷,提出了轻量级测试时规划修复机制。
原标题:LOCKR: A Hidden-State Trajectory-Guided Planner for Detecting and Repairing Stable-but-Wrong Lock-In in Diffusion Language Models
阅读 arXiv 自然语言处理 原文 ↗