其他分享
首页 > 其他分享> > 我的Densenet笔记

我的Densenet笔记

作者:互联网

两个基本块

   dense_block【宽高不变,通道数改变】:一个遍历block块(以121为例,传来blocks块[6,12,24,16])

                        进入conv_block结构,其中生长率为32,每个稠密层输出的特征维度是32

                                   BN(标准化)+relu(激活函数)+Conv2D(1*1降维)+BN+relu+Conv_2D(3*3特征提取)

                                   Concatenate()输入层与输出层连接

                                   返回连接层

  transition_block[不改变通道数,改变特征层宽高]:

                     BN+relu+Conv2D(1*1)+AverPooling(2*2)

 

基本结构   

Densenet

                  Conv2D+BN+relu+maxPooling------>dense_block(block0)+transition------>dense_block(block1)+transition------>dense_block(block2)+transition------>dense_block(block3)------>BN+relu+AverPooling+dense

 

注:

BN的作用:加速训练平稳收敛。

                   计算出当前batch的每个channel的均值mean,计算出当前batch的每个channel的方差variance,令输入减去均值再除以标准差delta,得到normalized输出x-hat,最后乘以scale参数gamma,加上shift参数beta,得到最终变换后的输出y

 

                                

标签:dense,BN,transition,relu,笔记,Densenet,Conv2D,block
来源: https://www.cnblogs.com/lxwen/p/12769360.html