研究揭示思维链前缀指令或导致视觉语言模型答案解码失效
最新研究探讨了视觉语言模型（VLM）在多项选择评测中存在的解码陷阱。当评测系统追加思维链（CoT）推理提示，却在模型生成完整推理过程前直接读取答案标签的对数几率时，会导致严重的评估失真。实验显示，Qwen2.5-VL-7B在ScienceQA任务上的准确率从80.76%骤降至45.48%，且超93%的预测倾向于选择首个选项。探针测试证实隐藏层仍保留正确答案，表明失效源于不当的即时读取机制。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
9月24日2026-09-24
LEGO：融合专家GraphRAG与思维链的法律推理框架
针对大语言模型在复杂法律推理中面临的结构性挑战，研究人员提出了LEGO框架。传统RAG及GraphRAG往往侧重词汇或语义相似度，忽略了法律条文间的规范关系；而普通思维链提示易生成缺乏法律规范结构的推导过程。LEGO采用双模块架构，将法律专家GraphRAG与专家级思维链相结合，有效规范了法律条文检索与逻辑推理链路，旨在突破高风险法律领域的推理瓶颈。
RECAP：面向大语言模型高效推理的冗余感知归因学习
针对大语言推理模型常生成正确却冗长低效的推理链问题，现有优化方法多依赖轨迹级或局部标记信号，未能充分建模步骤间的语义依赖，导致难以有效区分冗余步骤与关键支撑步骤。研究团队提出了 RECAP（通过传播实现的冗余感知信用分配）方法。该方法基于推理步骤在后续推导中的实际下游作用精准分配信用，从而在确保模型推理准确率的前提下精简推理过程，显著提升推理效率。