MobileNet V3与Lite R-ASPP 总结
作者:互联网
MobileNetV3 主要贡献
一句话总结: mobilienet v3主要在神经网络结构搜索NetAdapt算法上,针对激活函数,
- Complementary search techniques(主要针对神经网络搜索的NetAdapt算法,修改了优化目标,原始论文最小化accuracy change,当前论文最小化latency change 与accuracy change的比值)
- New efficient versions of nonlinearties practical (这部分主要解决非线性映射函数 s w i s h x = x ⋅ σ ( x ) swish\ x=x \cdot \sigma (x) swish x=x⋅σ(x))中的sigmoid函数计算复杂度高的问题,提出 h − s w i s h [ x ] = x ⋅ R e L u 6 ( x + 3 ) 6 h-swish[x]=x\cdot \frac{ReLu6(x+3)}{6} h−swish[x]=x⋅6ReLu6(x+3)近似代替原始映射函数)
- New efficient network design (这部分)
标签:swish,映射函数,efficient,NetAdapt,V3,ASPP,Lite,New,change 来源: https://blog.csdn.net/zhuixun_/article/details/112094958