其他分享
首页 > 其他分享> > 为什么目前感觉大多数论文还是以resnet为主干网络而不是densenet?

为什么目前感觉大多数论文还是以resnet为主干网络而不是densenet?

作者:互联网

因为不像resnet那样简洁吧,但是理论贡献是绝对的。万法归宗,啥都是dense connect。shortcut ,fpn,aspp,unet++ 都是,只是dense的程度不一样而已。

加粗样式
**

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
训练一个完全dense的网络,然后在上面剪枝才是最好的方法,unet++如是说。

首先谈这两个之间的区别和联系,DenseNet和ResNet都是基于分类任务提出来的网络模型架构,架构思想也基本一致,既从小模块堆积到layer,再堆积layer到网络。现如今的检测和分割模型都是基于分类的模型来做backbone预训练并提取特征,但是实际上我们可以注意到DenseNet作为比ResNet较新的网络,不仅是每个layer中模块的数量(每个layer中的module数量基本一致,这样适合抽出backbone每层的特征做多尺度),还是module得设计(module特征重用性很高,更适合检测和分割网络),实际上都是要比ResNet优越的。我认为之所以ResNet用的要比DenseNet多的一个原因是因为ResNet本身是一个较为成熟的网络,关于ResNet的各种变体多,这些变体大都能和ResNet很好的融合,并且预训练文件和代码很多,可以很快的上手。第二个原因是在真正使用中要具体情况具体分析,ResNet并不一定比别的网络模型效果差,效果就算差也不会差很多。第三个原因是有很多基于ResNet的其它任务论文,如检测,分割,想要公平的比较新提出来的模块和思想最好保持backbone不变的情况下比较。

标签:layer,dense,论文,网络,module,resnet,ResNet,densenet,DenseNet
来源: https://blog.csdn.net/niuxuerui11/article/details/119421798