【图灵VIP严选课程】JAVA互联网架构师专题/分布式/高并发/微服务

一、神经网络基础问题

（1）Backpropagation（反向传播）

　　后向传播是在求解损失函数L对参数w求导时候用到的方法，目的是通过链式法则对参数进行一层一层的求导。这里重点强调：要将参数进行随机初始化而不是全部置0，否则所有隐层的数值都会与输入相关，这称为对称失效。

（2）梯度消失、梯度爆炸

　　梯度消失：这本质上是由于激活函数的选择导致的， 最简单的sigmoid函数为例，在函数的两端梯度求导结果非常小（饱和区），导致后向传播过程中由于多次用到激活函数的导数值使得整体的乘积梯度结果变得越来越小，也就出现了梯度消失的现象。

　　梯度爆炸：同理，出现在激活函数处在激活区，而且权重W过大的情况下。但是梯度爆炸不如梯度消失出现的机会多。

标签：JAVA,函数,爆炸,梯度,消失,VIP,激活,求导,架构师
来源： https://www.cnblogs.com/ubkz/p/15183425.html