激活函数

1.σ激活函数

除非用在二元分类的输出层，不然一般不用

2.tanh函数

tanh激活函数在大多数场合下比σ激活函数更优越

3.Relu（最常用）

4.leak Relu

在隐藏层我们通常使用非线性激活函数，而不使用线性的

标签：函数,tanh,leak,Relu,下比,激活
来源： https://blog.csdn.net/YINZHE__/article/details/116432406