SMILESGNN:基于SMILES与图跨注意力融合的可解释临床药物毒性预测模型
针对药物研发中毒性预测面临的样本严重失衡、骨架泛化差以及缺乏临床可解释性等难题,研究人员提出了多模态网络架构 SMILESGNN。该模型通过交叉注意力机制,融合了 SMILES Transformer 编码器与 GATv2 图编码器,弥补了单一序列模型无法提供图归因解释的缺陷。此外,研究还推出了预训练变体 SMILESGNN-PT,有效提升了分子表征的泛化性能与临床解释能力。
针对药物研发中毒性预测面临的样本严重失衡、骨架泛化差以及缺乏临床可解释性等难题,研究人员提出了多模态网络架构 SMILESGNN。该模型通过交叉注意力机制,融合了 SMILES Transformer 编码器与 GATv2 图编码器,弥补了单一序列模型无法提供图归因解释的缺陷。此外,研究还推出了预训练变体 SMILESGNN-PT,有效提升了分子表征的泛化性能与临床解释能力。
针对现有基于图的世界模型多局限于固定拓扑或确定性、完全可观测环境的问题,研究人员提出了图动力学模型(GDM)。该模型专为图结构观测设计,能够处理在随机和部分可观测环境中拓扑结构动态演化的更通用场景。GDM利用稀疏循环邻接矩阵对拓扑更新进行建模并执行消息传递,结合循环状态空间机制以捕捉潜空间动力学。
在科学机器学习中,增量学习通常针对物理基线残差训练模型,传统观点认为基线越精确、残差尺度越小,下游性能就越好。该研究表明,仅靠残差尺度不足以评估目标的可学习性。通过在分子图神经网络的总能量预测任务中进行评估,研究发现复杂的局部描述符基线虽然残差绝对尺度更小,但在架构代理空间中表现得极不平滑,相对其尺度反而更难学习。论文揭示了面向泛化科学机器学习的目标设计关键机制。
该研究深入探讨了基于埃尔米特多项式构建的谱图神经网络,并提出了 HermNet 模型。该模型将节点级预测器与归一化埃尔米特传播相结合,依靠稀疏递推关系实现计算,既无需昂贵的特征值分解也不依赖可学习基底。研究还评估了坐标校准、响应归一化和高斯导数正则化等可选机制,并系统分析了在有限训练预算下,不同完备多项式基底在优化行为上的差异。
关系深度学习将多表数据库建模为异构时序图,目前图Transformer在该领域表现优异。然而,现有代表性模型RelGT存在局部采样子图连接松散阻碍消息传递,以及全局注意力依赖单一特征记忆而忽视宏观动态的两大缺陷。为此,研究人员提出了QUARTET架构,通过结合四分支交叉注意力与随机游走轨迹,增强全自注意力机制在关系图表征中的表达能力。
许多用于节点分类的图神经网络(GNN)将线性分类器应用于局部消息的非负混合中。预测错误往往源于混合权重不佳或可达 logit 集合的几何位置不适合该分类器。该研究通过精确质量线性规划和两种后验修复方法区分了这两类原因。研究表明,每个重加权预测都对应一个中心化的 logit 平移。在8个数据集、8个 GNN 骨干网络及10种划分上的实验表明,重加权使冻结模型的平均准确率从62.6%提升至63.8%。
针对大规模图神经网络(GNN)训练中传统采样标准易忽略边几何角色的问题,本研究提出了一种由电阻曲率引导的高效子图采样框架。该方法依托面向大图的曲率近似算法 ERC-LG,结合 Johnson-Lindenstrauss 投影与多 GPU 批处理共轭梯度求解器,避免了昂贵的显式拉普拉斯伪逆计算和全局嵌入存储,能有效利用几何曲率指导节点与边的采样概率。注:原始摘要文本在实验部分存在截断。