吴恩达-梯度下降

高级梯度下降法:

动量下降(Momentum）使用指数加权平均的概念:

 

RMSprop 类似指数加权平均的概念:

 

 

 

 学习率衰减:

 

标签：加权,吴恩达,梯度,RMSprop,下降,Momentum
来源： https://www.cnblogs.com/shawnEating/p/15022595.html