LastOPD：解决隐状态同策略大模型蒸馏中的后期崩溃问题
该研究针对大模型同策略蒸馏（OPD）缺乏教师模型隐层思考过程的问题展开探索。尽管引入隐状态监督（Latent supervision）能对齐学生与教师模型的内部状态，但在将Qwen3-4B/8B蒸馏至Qwen3-1.7B-Base的实验中，研究人员发现该方法存在“早期增益、后期崩溃”的失效现象，MATH-500准确率虽迅速提升但随后崩溃。为此，论文提出了LastOPD方法以抑制此类崩溃。
DC AI 热点
全部 AI 动态
9月25日2026-09-25
图像保真度不等同于场保真度：神经断层扫描中的热力学联合重建与误差定位
该论文针对科学断层扫描中神经场优化的核心难题展开研究。作者指出，由于2D到3D的正向映射为多对一关系，较低的2D图像误差并不能保证隐式3D物理场的准确性，且该隐式场在训练中缺乏直接监督。为此，研究团队提出了CoroNeRF框架，利用可微原子发射渲染器，直接从多视角、多谱线辐射强度中联合优化3D电子密度与温度场，并在日冕断层扫描场景中进行了测试与验证（注：原摘要结尾处有所截断）。
基于电子先验与响应态学习的可迁移振动光谱表征研究
针对振动光谱预测在跨化学空间场景下易受局部立体电子环境扰动而导致精度下降的问题，研究提出 SO(3) 等变神经卡尔曼网络（SENK）。该框架构建了响应态级联结构，融合了用于学习 Hessian 矩阵、偶极导数及极化率导数的等变 Transformer 骨干网络，通过等变神经卡尔曼桥实现状态依赖精炼与可靠性感知，并结合 NBO 电子先验以提升光谱表征的可迁移性。
阅读原文 ↗推荐理由：提出结合电子先验与等变神经网络的新架构，解决了分子振动光谱预测中的跨空间迁移与精度难题。# AI for Science# 等变神经网络# Transformer# 光谱预测# 分子表征
基于埃尔米特多项式的谱图神经网络架构 HermNet 研究
该研究深入探讨了基于埃尔米特多项式构建的谱图神经网络，并提出了 HermNet 模型。该模型将节点级预测器与归一化埃尔米特传播相结合，依靠稀疏递推关系实现计算，既无需昂贵的特征值分解也不依赖可学习基底。研究还评估了坐标校准、响应归一化和高斯导数正则化等可选机制，并系统分析了在有限训练预算下，不同完备多项式基底在优化行为上的差异。
基于lp正则化的大语言模型LoRA自动秩分配方法
低秩适应（LoRA）已成为大语言模型中广泛应用的参数高效微调方法，但如何确定各适应矩阵的秩仍是核心挑战。针对现有自适应秩分配方法多依赖人工设计重要性评分的问题，该研究提出了lp-LoRA方法。该方法基于信号处理中经典的稀疏诱导技术，利用0
9月24日2026-09-24
Drift Contract：结合谱更新实现深度鲁棒的局部学习算法
局部学习通过各层独立的辅助损失避免了全局反向传播，具备天然的结构并行优势，但长期受困于深度增加时的精度衰减和超参数脆弱性。该研究首次将类似 Muon 的谱更新几何（包含动量正交化与谱步长缩放）应用于逐层局部更新。在 CIFAR-10 MLP 基准测试中，该方法在深度 12 至 48 层、宽度 128 至 2048 的范围内，仅需单一固定步长即可取得最优表现，显著提升了局部学习对网络深度的鲁棒性。
Signal2Symbol：用于可解释生理时间序列异常检测的神经符号时序推理框架
针对心电图（ECG）和脑电图（EEG）等生理时间序列在复杂时序结构与高决策透明度方面的需求，现有深度学习模型往往缺乏对异常原因及局部关联的可解释性。研究团队提出了一种名为 Signal2Symbol 的神经符号框架，旨在实现可解释的生物信号异常检测。该方法首先将连续的生理信号转化为符号序列，进而结合神经符号时序推理，提升检测决策的透明度与规律挖掘能力。
HARN：面向事件驱动多时间周期预测的分层联想共振网络
针对金融时间序列在多时间尺度预测中重复计算不变表征的难题，研究者提出了分层联想共振网络（HARN）。该模型专为事件驱动的多周期预测设计，通过在不同时间层级维护持久化表征，仅在对应周期的K线数据生成完成后才触发该层更新，显著避免了冗余计算。其架构综合了因果多尺度时间编码、门控联想记忆、跨层级共振以及分层证据聚合机制。
终端基准测试何以称“难”？研究揭示智能体评测中的“真假难度”陷阱
前沿基准测试常依赖当前模型无法解决的任务来衡量能力边界，但零通过率并不等同于真正的高难度。该研究指出，任务全军覆没既可能源于真实的能力代差，也可能是由缺失上下文、损坏的参考方案或基础设施故障等“虚假难度”导致。基于 Terminal-Bench 3 等基准中涵盖 639 个任务、2.8 万余次试验及逾 10 万美元开销的真实记录，研究系统性厘清了导致智能体任务失败的本质原因，为评测体系纠偏。
LWCal：面向含噪标签表格分类器的损失加权概率校准方法
传统事后概率校准通常假设留出校准集标签完全干净，但在实际落地场景中，校准标签往往受弱标注或启发式规则影响而存在噪声。为此，研究人员针对表格分类器提出了一种名为LWCal的轻量级事后校准器。该方法仅依赖CPU运行，通过降低与基模型留出预测概率相矛盾的含噪样本权重，在无需干净验证集的情况下完成有效校准，解决了弱监督或含噪环境下的概率可靠性问题。
面向术中急性肾损伤早期预测的防数据泄露多模态评估框架 SynerT
针对非心脏大手术后急性肾损伤（AKI）早期术中风险分层难的问题，该研究提出了一种名为 SynerT 的纯波形混合时序骨干网络。该网络结合了因果扩张时间卷积网络（TCN）与分层扩张循环层，用于编码术中早期生理轨迹。此外，研究还构建了引入结构化临床背景的多模态扩展变体 SynerT-MM 进行晚期融合预测。注：输入素材尾部存在文本截断，后续具体融合细节未完全展示。
COPE：利用用户嵌入与自评估实现大模型在稀疏反馈下的持续个性化
针对大语言模型在标准对齐后输出同质化、难以满足用户多样化偏好的问题，研究人员提出了COPE优化框架。现有免训练方法多依赖提示工程占用上下文窗口，而微调方法在训练后保持静态，无法持续适应动态偏好。COPE结合个性化用户嵌入与模型自评估机制，有效克服了现实场景中用户反馈稀疏的挑战，实现了大语言模型在部署后的持续个性化优化。
QUARTET：基于四分支交叉注意力与随机游走轨迹增强的关系图Transformer
关系深度学习将多表数据库建模为异构时序图，目前图Transformer在该领域表现优异。然而，现有代表性模型RelGT存在局部采样子图连接松散阻碍消息传递，以及全局注意力依赖单一特征记忆而忽视宏观动态的两大缺陷。为此，研究人员提出了QUARTET架构，通过结合四分支交叉注意力与随机游走轨迹，增强全自注意力机制在关系图表征中的表达能力。
阅读原文 ↗推荐理由：针对关系深度学习中图Transformer的采样稀疏与全局动态建模不足问题，提出了新颖的增强架构。# 图Transformer# 关系深度学习# 图神经网络# 注意力机制# RelBench
智能体训练中工具缓存可能导致策略更新方向反转
工具结果缓存可显著减少智能体训练中的重复计算，但也会耦合采样过程的随机性。最新研究通过一个双动作模型证明，即使独立执行与共享执行在边际上保持了每个采样的条件奖励分布一致，在组内共享随机结果仍可能导致预期的组归一化策略更新方向发生反转。理论推导表明，共享缓存更新反映的是胜负概率之差而非期望奖励之差，揭示了智能体强化学习中常见工程优化策略潜在的算法偏差风险。
PR-Smoother：面向物理数据同化的保留模拟器非高斯平滑方法
在物理数据同化（DA）工作流中，通常需要平滑算法能够表示物理状态变量的非高斯后验分布，并适配高维物理模拟器。针对这一需求，研究人员提出了 PR-Smoother，一种保留模拟器的摊销平滑方法。该方法的核心设计在于，在证据下界与变分分布族中均显式保留既定的物理模拟器，而非训练替代动力学模型或学习完整轨迹，从而在仅依赖观测窗口训练的同时，保持与模拟器校准的良好兼容性。
CORE-STACK+：面向深度堆叠泛化的元学习方法
在堆叠异构视觉骨干网络（如CNN、ViT及其混合架构）以提升精度、校准度与鲁棒性时，常受制于预测空间多重共线性与校准崩溃两大耦合问题。多重共线性会导致元学习器解不稳定，而简单线性堆叠则会加剧各模型的未校准问题，导致模型越多期望校准误差反而越差。现有解决方案均无法同时解决这两种缺陷，为此该研究提出了基于元学习的深度堆叠泛化方法CORE-STACK+以克服这些限制。
多目标强化学习中事后重标记引发偏好覆盖崩溃的研究
事后重标记通过将转移目标事后替换为实际达到的结果，是提升强化学习样本效率的有效手段。然而，将其自然扩展至偏好条件的多目标强化学习（MORL）时，本研究发现该方法往往适得其反。在 MO-Gymnasium 连续控制测试套件中，针对涵盖两种 Critic 主干和偏好采样方案的四种离线策略算法测试表明，此类重标记会导致性能退化并引发偏好覆盖崩溃。（注：原文摘要结尾处不完整）
跨八大领域评估：后处理公平性约束何时有效何时受损
生产环境机器学习的公平性审计往往仅在部署时进行单域单次评估，难以应对重训或用户群变化导致的公平性漂移。为此，研究团队提出了生产环境公平性审计框架FAPE，该框架包含四个阶段，专门评估后处理干预措施（如Fairlearn的ThresholdOptimizer）。研究在刑事司法、收入预测、法律录取、信用贷款及农业信贷等八个领域展开跨域实证评估，深入剖析了后处理公平约束在不同场景下的适用性与潜在风险。
结合保形分位数回归的迁移学习框架：应对缺电数据匮乏下的光伏预测
针对频繁停电导致历史观测数据极度匮乏地区的光伏预测难题，本研究提出了一种结合保形分位数回归（CQR）的迁移学习框架。该方法首先基于澳大利亚爱丽斯泉的光伏数据集预训练时序预测模型，随后将其迁移适配到模拟的孟加拉国光伏数据中，以应对不同程度的数据缺失。实验表明，该框架在严重数据稀缺环境下显著提升了光伏功率预测能力，并提供了可靠的不确定性估计。
CRISP：面向不平衡表格数据的高扩展性重要性分层核心集剪枝方法
针对大规模不平衡表格数据在梯度提升树训练中算力消耗过高的问题，研究人员提出了一种名为 CRISP 的线性时间核心集剪枝方法。该方法依据代理模型打分的分位数分层分配多数类（负类）样本预算，并通过样本加权校正不等采样概率。在真实生产级反欺诈数据集上的测试表明，在削减 95% 负类样本、数据总量缩减 93.2%（从 2500 万行降至约 170 万行）的情况下，该模型仍能保留全量数据 99.7% 的平均精度。
TinyUDE：基于李-泰勒射流匹配的微控制器免求解器通用微分方程
传统通用微分方程（UDE）训练依赖通过数值微分方程求解器进行反向传播，其巨大的内存开销远超边缘微控制器的承受能力。为此，研究团队提出TinyUDE框架，引入免求解器的李-泰勒射流匹配方法，将混合向量场直接拟合至观测状态的一阶与二阶时间导数。系统通过Savitzky-Golay滤波实现在线导数估计，在无需自动微分库的情况下获得完全解析梯度，有效攻克了受限边缘设备上的动态系统训练难题。
资源高效的分布式递归高斯过程算法研究
针对多智能体系统中去中心化环境下统一模型维护的难题，本文提出了两种用于多输出高斯过程回归的高效分布式递归高斯过程算法：ADMM-RGP与PDMM-RGP。该研究解决了多智能体在仅依赖本地测量和邻居通信时的高效协同计算问题，能够在量化预测不确定性的同时降低通信与计算开销，为多智能体系统的分布式学习与状态估计提供了新的理论与算法支持。
GeoRVQ：面向生理信号残差标记预测的解码器感知几何模型
残差矢量量化（RVQ）可将生理波形转换为紧凑的标记序列，但传统掩码建模通常将所有错误标记赋予相同的代价。为此，研究人员提出 GeoRVQ，这是一种由粗到细的掩码标记模型，其优化目标结合了冻结波形解码器的局部响应。该模型通过解码器诱导的成本构建了几何感知软目标与期望失真，并遵循量化因果依赖进行预测。在 MIMIC-IV、VitalDB 和 CODE-15% 等数据集上的实验表明，GeoRVQ 显著提升了标记预测的准确性。
基于Wasserstein倾斜流图的免仿真强化学习微调方法WTF
该研究针对预训练流式生成模型的下游奖励微调问题，提出了一种名为Wasserstein倾斜流的新框架。传统方法多将其表述为基于KL散度正则化的奖励倾斜分布采样，而本研究构建了直接基于预训练漂移的最优传输正则化项。与传统的重加权基分布不同，该目标直接将单个样本输运至高奖励区域，使其等价于一种确定性过程，从而实现了免仿真的强化学习模型优化。
研究团队推出聚合物性质预测开源基准PolyBench26
针对聚合物性质预测领域缺乏开源、标准化基准且覆盖聚合物结构狭窄的问题，研究团队推出了PolyBench26开源数据集。该基准包含近25万条聚合物性质数据点，涵盖实验测量、密度泛函理论和分子动力学模拟得出的8种物理性质。该数据集支持均聚物、交替共聚物、无规共聚物和嵌段共聚物等多结构类型的四类评估任务，旨在促进机器学习方法在聚合物科学中的规范化评估与对比。
ChipMEM：面向电子设计自动化智能体的基于验证记忆机制
基于大语言模型的智能体可利用电子设计自动化（EDA）工具，根据综合与验证反馈生成并修正寄存器传输级（RTL）设计。然而，现有方法通常在产生经验的同一任务上评估提炼的技能或奖励模型，容易诱发针对特定任务的反复修改，而非沉淀出可迁移的复用知识。为此，论文提出了名为 ChipMEM 的基于验证的记忆机制（注：输入摘要在介绍 ChipMEM 具体细节处被截断）。
已训练图神经网络中的局部证据与几何读出修复
许多用于节点分类的图神经网络（GNN）将线性分类器应用于局部消息的非负混合中。预测错误往往源于混合权重不佳或可达 logit 集合的几何位置不适合该分类器。该研究通过精确质量线性规划和两种后验修复方法区分了这两类原因。研究表明，每个重加权预测都对应一个中心化的 logit 平移。在8个数据集、8个 GNN 骨干网络及10种划分上的实验表明，重加权使冻结模型的平均准确率从62.6%提升至63.8%。
面向未观测混杂因素的鲁棒风险评分学习方法
该研究探讨了在存在未观测混杂因素的历史观测数据中学习风险评分的难题，此类评分通常用于指导稀缺资源分配或干预措施的优先级。尽管逆倾向加权等传统方法尝试校正观测数据带来的偏差，但在存在未观测混杂时仍面临严峻挑战。本研究旨在提出能够在混杂偏差下保持鲁棒性的评分学习方案。注：原始摘要文本末尾有所截断，具体方法细节未完全披露。
线性表征假说需引入群作用：基于表征等价性的理论审视
该研究针对可解释性与表征学习中的“线性表征假说”提出了理论层面的反思。作者指出，要让关于表征的结论跨越具体训练模型实现泛化，必须明确两个表征何时被视为等价。由于现有讨论普遍缺乏对等价性的明确定义，导致看似研究同一表征的指标、探测器和干预手段实际上可能对应着不同的假设。研究认为，线性表征假说并非单一假设，而是由不同表征等价性所区分的一个假说家族。
大型推理模型推理阶段能力与效率的扩展规律研究
该研究探讨了大语言模型在推理任务中的“能力”（解题正确率）与“效率”（所需资源消耗）两个核心维度。当模型利用思维链（CoT）处理不同难度的问题时，正确率和所需Token数量均受问题难度与模型规模影响，但两者的联合作用机制此前尚不明确。研究采用分层贝叶斯方法建模分析，旨在揭示模型规模与问题难度如何共同影响推理期的能力与效率扩展。（注：原文摘要存在截断）