AIDC
← 返回全部动态
arXiv 机器学习AI 评分 65/10009月24日 12:00

ZO-COSMO:面向去中心化零阶优化的无索引单跳混合算法

针对去中心化零阶学习中稀疏通信面临的节点状态坐标对齐问题,该研究提出了 ZO-COSMO 算法。该方法结合了双查询梯度估计与保均值掩码共识机制,匹配更新仅需在通信节点对内部达成一致,消除了全局索引协调的需求。论文给出了严格的单标量收缩界,并为核心更新及稀疏动量更新提供了收敛性理论保证,有效降低了去中心化黑盒优化的通信复杂度。

推荐理由提出了一种降低去中心化零阶优化通信开销的新算法,具备完整的收敛性理论证明。

原标题:ZO-COSMO: Index-Free One-Hop Mixing for Decentralized Zeroth-Order Optimization

阅读 arXiv 机器学习 原文 ↗