其他分享
首页 > 其他分享> > 常用的激活函数

常用的激活函数

作者:互联网

LawsonAbs的认知与思考,还请各位读者批判阅读。

总结
Sigmoid 函数

函数表达式:
f ( z ) = 1 1 + e − z f(z) = \frac{1}{1+e^{-z}} f(z)=1+e−z1​

tanh函数

函数表达式:
f ( z ) = e z − e − z e z + e − z f(z) = \frac{e^{z}-e^{-z}}{e^{z}+e^{-z}} f(z)=ez+e−zez−e−z​

Relu函数

f ( z ) = m a x ( 0 , z ) f(z) = max(0,z) f(z)=max(0,z)

标签:常用,frac,函数,max,Relu,激活,表达式,LawsonAbs
来源: https://blog.51cto.com/lawsonabs/3036491