其他分享
首页 > 其他分享> > 【深度学习入门到精通系列】神经网络中动量的概念

【深度学习入门到精通系列】神经网络中动量的概念

作者:互联网

在这里插入图片描述
其中动量系数一般取(0,1),直观上理解就是要是当前梯度方向与前一步的梯度方向一样,那么就增加这一步的权值更新,要是不一样就减少更新。

标签:入门,一步,要是,更新,神经网络,动量,权值,梯度方向
来源: https://blog.51cto.com/u_14013325/2890577