大模型书写系统选择机制：研究揭示深层网络才最终确定输出文字
该研究利用逻辑回归探测和Logit-lens两种可解释性分析方法，探究大语言模型在各层中如何分布与处理书写系统（文字类型）知识。探测实验显示出明显的非对称性：输入文字系统与指令指定的输出文字系统在网络的极早层已被编码，但对实际输出文字系统的最终确定直到末尾深层才显现，中间大部分层级的表征仍默认倾向拉丁字母。这一两阶段机制为深入理解大模型的内部表征演进提供了重要证据。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
基于VAE潜在空间自适应的压气机叶栅间隙流CFD修正方法
针对压气机叶栅开式叶尖间隙流中CFD预测与实验存在偏差且高分辨率实验真值缺失的问题，该研究提出一种基于变分自编码器（VAE）与潜在空间自适应的非侵入式修正方法。研究首先使用166个参数化采样的CFD总压损失场数据集训练VAE以获取流场的低维统计表征，随后冻结该VAE，并利用少量数据训练低秩潜在空间适配器进行流场修正（注：原摘要末尾不完整）。
研究发现大语言模型中语法“祖母神经元”罕见，提出无探针分析框架
理解大语言模型（LLM）如何编码语言结构是可解释性研究的核心难题。传统的诊断分类器（探针）方法存在引入容量混淆与校准偏差等局限，往往难以区分模型自身的内禀表征与探针本身的拟合能力。为解决这一问题，该研究提出了一个无探针（probe-free）框架，用于在单个神经元层面上定位语言选择性，探索模型内部表征机制。
超越静态图世界模型：面向动态演化拓扑的随机潜空间动力学学习
针对现有基于图的世界模型多局限于固定拓扑或确定性、完全可观测环境的问题，研究人员提出了图动力学模型（GDM）。该模型专为图结构观测设计，能够处理在随机和部分可观测环境中拓扑结构动态演化的更通用场景。GDM利用稀疏循环邻接矩阵对拓扑更新进行建模并执行消息传递，结合循环状态空间机制以捕捉潜空间动力学。
稀疏自编码器隐空间中作为涌现类别的词性结构研究
该研究探讨了稀疏自编码器（SAE）在解析语言模型内部表征时揭示的语言学结构。作者以词性（PoS）类别为受控实验案例，分析形态句法信息究竟是由单个隐特征还是结构化特征组所编码。实验表明，词性差异高度可从SAE激活中恢复，但并非简单的一对一隐变量映射，且该恢复能力无法归结为单纯的词汇记忆，同时开放类与封闭类词性在表征特性上存在显著差异。
9月24日2026-09-24
4DGS-JEPA：面向动态高斯泼溅的时序组合联合嵌入预测架构
动态高斯泼溅能显式表征随时间演化的3D场景，但现有方法多针对重建、未来状态生成或渲染进行优化，缺乏对可复用预测动力学的学习。对此，研究人员提出了 4DGS-JEPA，一种用于动态高斯场景因果多时域预测的原生联合嵌入预测架构。该模型构建了涵盖场景级、运动群级及高斯级的层次化表征，并结合时域条件转移算子，能够同时支持直接预测与递归推演。
Ovis-Embedding：拓展通用全模态嵌入模型前沿
该研究推出了全模态嵌入模型家族 Ovis-Embedding，实现对文本、图像、视频和音频的原生整合。不同于将各个独立的模态塔简单组合，Ovis-Embedding 采用共享的多模态骨干网络，将不同模态编码至统一的表征空间中。该模型以预训练的 Qwen-omni 为骨干网络，通过低秩初始化的对比训练完成适配，并引入了以数据为中心的全模态训练策略。
线性表征假说需引入群作用：基于表征等价性的理论审视
该研究针对可解释性与表征学习中的“线性表征假说”提出了理论层面的反思。作者指出，要让关于表征的结论跨越具体训练模型实现泛化，必须明确两个表征何时被视为等价。由于现有讨论普遍缺乏对等价性的明确定义，导致看似研究同一表征的指标、探测器和干预手段实际上可能对应着不同的假设。研究认为，线性表征假说并非单一假设，而是由不同表征等价性所区分的一个假说家族。
LLMAE：将预训练大语言模型改造为高保真连续文本自编码器
针对自回归语言模型仅能通过序列分解间接表示全局结构、缺乏类似图像领域的忠实连续表征这一问题，研究人员提出了LLMAE方法。该方法将预训练的仅解码器（decoder-only）大语言模型重新利用为连续文本自编码器，通过在其内部激活状态中构建一个中间固定长度的潜在瓶颈（latent bottleneck），成功为文本生成提供了可操作的高保真连续潜空间表征。
柏拉图表征假设中究竟在收敛什么？结构优先于几何
柏拉图表征假设提出高能力模型会趋向于收敛至共享表征，而近期研究将其范围缩减为共享局部邻域关系，并认为校准后全局相似性趋势大多消失。该研究对这一解读提出质疑，指出以往的局部与全局对比混淆了结构尺度（局部与全局）与对比对象本身的差异，即由样本关联定义的“关系结构”和由距离等量化关系表征的“度量几何”被混为一谈，重新澄清了模型表征收敛的实质。