基于单次前向传播的注意力路由图实时电路提取方法
传统语言模型的可解释性电路查找通常需要进行大量复杂的干预实验。该研究提出了一种轻量化新方法，将单次前向传播中的注意力视为路由图，筛选出指向答案的关键路径。在归纳和间接宾语识别（IOI）任务中，消融该方法提取的边对模型性能的破坏显著高于随机消融。研究在GPT-2与Pythia模型上验证了该方法的有效性，为低成本理解模型内部机制提供了新路径。
DC AI 热点
全部 AI 动态
9月24日2026-09-24
研究揭示Transformer注意力头数对序列有序性判断的表达能力界限
该研究探讨了Transformer架构在序列排序判断任务中的表达能力。论文证明，判断一个比特序列是否处于有序状态的任务无法由单头单层（1-head 1-layer）Transformer完成，但可以通过双头单层（2-head 1-layer）Transformer实现。与以往同类理论成果不同的是，该研究的结论建立在模型包含输出多层感知机（MLP）的架构设定之下。
大语言模型数学推理机制按方法而非学科主题组织
一项针对大语言模型内部计算机制的研究显示，开源数学模型在处理问题时更倾向于按可复用的“推理方法”而非传统的“学科主题”组织内部计算。研究团队提出了一种“生成-重放协议”，先由模型生成解题步骤，再重放完整的提示词与生成轨迹，借此提取推理 token 的激活重要性特征并进行无监督聚类。该研究为理解 LLM 如何在内部表征和执行数学推理提供了新的可解释性视角。