面向在线自适应的贝叶斯神经网络全协方差平滑算法
该研究提出了一种面向在线自适应的贝叶斯神经网络训练方法。研究将神经网络各层视为状态空间模型的时间步，把贝叶斯训练转化为平滑问题：前向过程传播高斯矩，反向 RTS 平滑过程则以闭式解更新权重后验。这种方法单次遍历即可完成学习，具备不确定性感知能力，且无需梯度迭代或经验回放，非常适用于高数据效率的在线自适应场景。针对以往方法受限于激活对角协方差的瓶颈，该工作展开了全协方差平滑研究。
推荐理由提出无需梯度迭代的贝叶斯神经网络在线自适应方法，为小样本增量学习与不确定性量化提供了新思路。
原标题：Full-Covariance Smoothing of Bayesian Neural Networks for Online Adaptation
阅读 arXiv 机器学习 原文 ↗