其他分享
首页 > 其他分享> > 【目标检测】|ReXNet 2021CVPR

【目标检测】|ReXNet 2021CVPR

作者:互联网

论文:https://arxiv.org/pdf/2007.00992.pdf
代码:https://github.com/clovaai/rexnet
ref
https://mp.weixin.qq.com/s/wn6n8tEeDA7z6tFSaoaf5g

作者认为:传统的网络架构设计范式会产生表达瓶颈问题,进而影响模型的性能。为研究表达瓶颈问题,作者研究了上万随机网络生成的特征的matric rank,同时进一步研究了网络的层通道配置方案。基于前述研究发现,作者提出了一组简单而有效的设计原则消除表达瓶颈问题。在基准网络上采用上述设计原则进行轻微调整即可取得ImageNet上的性能显著提升;

作者所提出的一组设计原则如下:

最后,结合一系列的分析得出了该文的网路架构设计新范式:(1) 选择合适的激活函数,比如Swish-1;(2)网络的通道层采用递增方式设计;(3)网络需要具有更多的扩展层(该文设置了16个,而非已有网络中的4个)。

首先,给出几个术语:(1) 如果某个层的输出通道数大于输入通道数,那么将其称之为扩张层;(2) 如果某个层的输出通道数小于输入通道数,那么将其称之为收缩层.

作者将结合上述设计原则而设计的网路架构称之为ReXNet(Rank eXpandsion Networks)。结合上述设计原则,MobileNetV2的改进架构信息见下表,此时称之为ReXNet。
在这里插入图片描述

MobileNetV1的改进架构信息见下表,该网络称之为ReXNet-plain。

在这里插入图片描述

标签:称之为,检测,网络,ReXNet,https,设计,2021CVPR,通道
来源: https://blog.csdn.net/qq_35608277/article/details/117548348