研究提出面向扩散模型的条件感知表征正则化框架 CARE
该研究针对扩散模型中表征正则化方法常忽视内置条件(如标签或文本)影响的问题,揭示了条件信号对特征分布的作用机制,并提出了 CARE(条件感知表征正则化)框架。CARE 是一种轻量级且即插即用的正则化方案,能够根据条件相似性动态调整特征分布,从而进一步优化扩散模型的样本生成质量并提升训练效率。
该研究针对扩散模型中表征正则化方法常忽视内置条件(如标签或文本)影响的问题,揭示了条件信号对特征分布的作用机制,并提出了 CARE(条件感知表征正则化)框架。CARE 是一种轻量级且即插即用的正则化方案,能够根据条件相似性动态调整特征分布,从而进一步优化扩散模型的样本生成质量并提升训练效率。
传统通用微分方程(UDE)训练依赖通过数值微分方程求解器进行反向传播,其巨大的内存开销远超边缘微控制器的承受能力。为此,研究团队提出TinyUDE框架,引入免求解器的李-泰勒射流匹配方法,将混合向量场直接拟合至观测状态的一阶与二阶时间导数。系统通过Savitzky-Golay滤波实现在线导数估计,在无需自动微分库的情况下获得完全解析梯度,有效攻克了受限边缘设备上的动态系统训练难题。
针对大规模图神经网络(GNN)训练中传统采样标准易忽略边几何角色的问题,本研究提出了一种由电阻曲率引导的高效子图采样框架。该方法依托面向大图的曲率近似算法 ERC-LG,结合 Johnson-Lindenstrauss 投影与多 GPU 批处理共轭梯度求解器,避免了昂贵的显式拉普拉斯伪逆计算和全局嵌入存储,能有效利用几何曲率指导节点与边的采样概率。注:原始摘要文本在实验部分存在截断。