人工智能、意识与涌现行为探讨
该博客文章探讨了人工智能、意识以及涌现行为之间的关系。由于原始素材仅包含文章标题及链接，未提供更具体的正文摘要与讨论细节，详细论点和技术分析尚不明确。文章主题主要聚焦于复杂人工智能系统中涌现特性的机制，以及其与意识假说相关的哲学和前沿理论思考。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
知识追踪模型的可解释性与稳定性验证研究
该研究针对知识追踪（KT）模型黑盒预测导致难以有效指导教学实践的问题，提出了一套综合验证协议。该协议系统评估了模型的预测竞争力、解释稳定性以及基于重新训练的忠实度。研究基于ASSISTments 2009和2012数据集，围绕五个教学主题构建了13个行为特征，并修正重建了原始数据集中存在技能构建重复记录的问题，为教育AI模型的可解释性评估提供了更可靠的基准。
SMILESGNN：基于SMILES与图跨注意力融合的可解释临床药物毒性预测模型
针对药物研发中毒性预测面临的样本严重失衡、骨架泛化差以及缺乏临床可解释性等难题，研究人员提出了多模态网络架构 SMILESGNN。该模型通过交叉注意力机制，融合了 SMILES Transformer 编码器与 GATv2 图编码器，弥补了单一序列模型无法提供图归因解释的缺陷。此外，研究还推出了预训练变体 SMILESGNN-PT，有效提升了分子表征的泛化性能与临床解释能力。
大模型书写系统选择机制：研究揭示深层网络才最终确定输出文字
该研究利用逻辑回归探测和Logit-lens两种可解释性分析方法，探究大语言模型在各层中如何分布与处理书写系统（文字类型）知识。探测实验显示出明显的非对称性：输入文字系统与指令指定的输出文字系统在网络的极早层已被编码，但对实际输出文字系统的最终确定直到末尾深层才显现，中间大部分层级的表征仍默认倾向拉丁字母。这一两阶段机制为深入理解大模型的内部表征演进提供了重要证据。
研究发现大语言模型中语法“祖母神经元”罕见，提出无探针分析框架
理解大语言模型（LLM）如何编码语言结构是可解释性研究的核心难题。传统的诊断分类器（探针）方法存在引入容量混淆与校准偏差等局限，往往难以区分模型自身的内禀表征与探针本身的拟合能力。为解决这一问题，该研究提出了一个无探针（probe-free）框架，用于在单个神经元层面上定位语言选择性，探索模型内部表征机制。
稀疏自编码器隐空间中作为涌现类别的词性结构研究
该研究探讨了稀疏自编码器（SAE）在解析语言模型内部表征时揭示的语言学结构。作者以词性（PoS）类别为受控实验案例，分析形态句法信息究竟是由单个隐特征还是结构化特征组所编码。实验表明，词性差异高度可从SAE激活中恢复，但并非简单的一对一隐变量映射，且该恢复能力无法归结为单纯的词汇记忆，同时开放类与封闭类词性在表征特性上存在显著差异。
混合推理模型中的“思考泄漏”：NoThink后训练机制因果审计
针对混合推理模型在无显式思考（NoThink）模式下的后训练机制，本研究探讨了其性能提升是否源于基座模型“思考（Think）”模式能力的潜在迁移。作者将这种“思考泄漏”纳入因果中介分析框架，并基于激活方向的双向干预进行审计。在3个模型、3种后训练方法及竞赛数学基准上的实验表明，“思考泄漏”在行为和表征层面均真实存在、具备因果性且影响显著，揭示了快推理模式下的内在表征机制。
面向机制可解释性的流递归模型（SRM）
该研究针对机制可解释性技术难以随大语言模型规模与深度扩展的问题，提出了一种新型架构——流递归模型（SRM）。SRM 是对分层推理模型（HRM）的改进，通过将计算过程组织为多个相互交互的潜在流，在保持模型可扩展性的同时暴露其内部计算结构。该工作旨在通过设计天然具备可解释性结构的小型模型，为验证和理解模型内部行为提供新的探索路径。
将“激活神谕”技术扩展至万亿参数模型：深入内部表征监测AI异常行为
针对奖励作弊（Reward Hacking）及评测感知等难以仅凭输出内容发现的AI异常行为，研究人员构建了“激活神谕”（Activation Oracles）系统。该系统作为辅助AI，专门分析目标模型的内部激活状态以检测和预测其潜在行为。研究团队成功将这一神谕训练机制扩展到了万亿参数模型上，并验证了其检测性能会随模型体量与数据规模的增长而持续提升（原文摘要在数据规模处截断）。
9月24日2026-09-24
EduBehaviors：面向教育对话可审计标注的断言架构框架
大语言模型已被广泛应用于教育对话数据的教学构念标注与分类，但其黑盒推理特性导致难以验证模型对具体话语分类的机理依据。为此，研究团队提出了 EduBehaviors 框架。该框架是一种可解释且具扩展性的教育数据标注方案，通过利用大语言模型量化与多种构念相关的可观测重复行为，进而训练下游分类器，实现标注过程的可追溯与审计（原摘要结尾略有截断）。
Signal2Symbol：用于可解释生理时间序列异常检测的神经符号时序推理框架
针对心电图（ECG）和脑电图（EEG）等生理时间序列在复杂时序结构与高决策透明度方面的需求，现有深度学习模型往往缺乏对异常原因及局部关联的可解释性。研究团队提出了一种名为 Signal2Symbol 的神经符号框架，旨在实现可解释的生物信号异常检测。该方法首先将连续的生理信号转化为符号序列，进而结合神经符号时序推理，提升检测决策的透明度与规律挖掘能力。
基于超图神经网络的胶质母细胞瘤生存期精准与可解释预测研究
针对多形性胶质母细胞瘤（GBM）生存预测对高准确度和透明度的双重需求，研究人员指出现有方法往往在性能与可解释性间妥协，且过度依赖单一成像模态，未能充分利用互补信息。该研究提出一种超图神经网络方案，认为这两者并非固有冲突，旨在利用图神经网络的结构优势，在保证强判别能力的同时提取具解释性的特征表征，以提升多模态临床预测能力（原文摘要截断）。
任务难度决定思维链因果作用：从“装饰性”到“承重性”的转变研究
该研究探讨了大模型思维链（CoT）在生成最终答案时的因果约束力。作者提出了“基于续写的因果测试”方法，通过扰动某一推理步骤、截断链条并强迫模型基于被破坏的前缀继续生成，用以量化CoT对答案的“承重性”（load-bearingness）。在Gemma-2、Llama-3.1和DeepSeek-R1蒸馏模型上的多项基准测试表明，CoT的因果承重性与任务难度密切相关，简单任务中CoT往往流于形式，而在难任务中则切实主导推理方向。
线性表征假说需引入群作用：基于表征等价性的理论审视
该研究针对可解释性与表征学习中的“线性表征假说”提出了理论层面的反思。作者指出，要让关于表征的结论跨越具体训练模型实现泛化，必须明确两个表征何时被视为等价。由于现有讨论普遍缺乏对等价性的明确定义，导致看似研究同一表征的指标、探测器和干预手段实际上可能对应着不同的假设。研究认为，线性表征假说并非单一假设，而是由不同表征等价性所区分的一个假说家族。
CELLAUDIT：用于审查智能体发现细胞模型中输入有效性的审计框架
针对 AI 虚拟细胞模型在预测生物干预响应时可能并未真正利用输入信息的“预测-主张差距”，研究团队提出了审计框架 CELLAUDIT。在大模型智能体自动发现和迭代预测模型的场景下，CELLAUDIT 从源码计算路径、拟合依赖性以及实际预测贡献三个维度切入，系统性验证模型对输入扰动信息的使用主张是否属实，以确保智能体生成的科学预测模型具备真正的因果有效性和可靠性。
相同证据不同判定：多模态大模型在图文及语音文本冲突中存在证据不可交换性
该论文探讨了多模态大语言模型在图像或语音与伴随文本发生冲突时的偏好机制。针对以往文本偏置研究中证据顺序固定或指令位置变化导致成因不明的问题，研究团队采用配对比较法，在固定指令与证据内容的前提下仅互换两类模态信息的输入顺序。实验覆盖视觉与语音模型，发现将图像或音频置于冲突文本之后会持续改变模型判定，证实了模型处理冲突证据时存在显著的顺序敏感性与不可交换性。
大模型陈述的推理步骤是否真正承载因果权重？
思维链（CoT）监控通常假设模型生成的推理过程真实反映了得出答案的计算机制。以往评估推理真实性的指标主要停留在行为层面，即通过修改推理文本来观察输出变化。该研究提出一种在激活层面测量自生成推理真实性的因果分析方法。与以往仅评估性能衰减的因果审计不同，该方法通过带有已知反事实目标的激活干预，验证每一次干预是否能将答案切换至特定的反事实实体，从而精确评估推理步骤的因果支撑度。
大语言模型数学推理机制按方法而非学科主题组织
一项针对大语言模型内部计算机制的研究显示，开源数学模型在处理问题时更倾向于按可复用的“推理方法”而非传统的“学科主题”组织内部计算。研究团队提出了一种“生成-重放协议”，先由模型生成解题步骤，再重放完整的提示词与生成轨迹，借此提取推理 token 的激活重要性特征并进行无监督聚类。该研究为理解 LLM 如何在内部表征和执行数学推理提供了新的可解释性视角。