研究提出面向扩散模型的条件感知表征正则化框架 CARE
该研究针对扩散模型中表征正则化方法常忽视内置条件(如标签或文本)影响的问题,揭示了条件信号对特征分布的作用机制,并提出了 CARE(条件感知表征正则化)框架。CARE 是一种轻量级且即插即用的正则化方案,能够根据条件相似性动态调整特征分布,从而进一步优化扩散模型的样本生成质量并提升训练效率。
该研究针对扩散模型中表征正则化方法常忽视内置条件(如标签或文本)影响的问题,揭示了条件信号对特征分布的作用机制,并提出了 CARE(条件感知表征正则化)框架。CARE 是一种轻量级且即插即用的正则化方案,能够根据条件相似性动态调整特征分布,从而进一步优化扩散模型的样本生成质量并提升训练效率。
以GRPO为代表的分组强化学习已成为训练推理与智能体大模型的主流范式。然而,这类方法在全轨迹层面的优势估计虽然可靠,但在单步层面上存在系统性偏差,粗粒度的轨迹级反馈难以准确评估单个步骤的实际贡献(例如失败轨迹中往往包含有价值的操作步骤)。论文回归强化学习基础定义,提出通过构建轨迹图来精确估计步骤级优势,以解决多轮复杂智能体任务中的信用分配难题并提升模型训练效果。
传统通用微分方程(UDE)训练依赖通过数值微分方程求解器进行反向传播,其巨大的内存开销远超边缘微控制器的承受能力。为此,研究团队提出TinyUDE框架,引入免求解器的李-泰勒射流匹配方法,将混合向量场直接拟合至观测状态的一阶与二阶时间导数。系统通过Savitzky-Golay滤波实现在线导数估计,在无需自动微分库的情况下获得完全解析梯度,有效攻克了受限边缘设备上的动态系统训练难题。
针对大规模图神经网络(GNN)训练中传统采样标准易忽略边几何角色的问题,本研究提出了一种由电阻曲率引导的高效子图采样框架。该方法依托面向大图的曲率近似算法 ERC-LG,结合 Johnson-Lindenstrauss 投影与多 GPU 批处理共轭梯度求解器,避免了昂贵的显式拉普拉斯伪逆计算和全局嵌入存储,能有效利用几何曲率指导节点与边的采样概率。注:原始摘要文本在实验部分存在截断。