TF11——LeNet

经典卷积网络

LeNet由Yann LeCun于1998年提出，卷积网络开篇之作。

在统计神经网络层数时，一般只统计卷积计算层和全连接计算层，其余操作可以认为是卷积计算层的附属

LeNet一共有五层网络，其中C1是一层卷积，C3是一层卷积，C5、F6、Output是连续的三层全连接，卷积就是CBAPD，上图中，把前面的两层卷积用CBAPD描述出来

• 第一层是6个5*5的卷积核，卷积步长是1，不使用全零填充，LeNet提出时还没有BN操作，这里选择不使用BN操作，LeNet时代sigmoid是主流的激活函数，用2*2的池化核，步长为2，进行最大池化，不使用全零填充，LeNet时代还没有Dropout,所以不使用Dropout层
• 第二层是16个5*5的卷积核，卷积步长是1，不使用全零填充，不使用BN操作，igmoid是激活函数，用2*2的池化核，步长为2，进行最大池化，不使用全零填充，不使用Dropout层
• 随后Flatten拉直
• 连续三层全连接网络，神经元分别是120、84、10，前两层全连接使用sigmod激活函数，最后一层使用softmax使输出符合概率分布

对着CBAPD写出的代码如下

源码：P31_cifar10_lenet5.py

标签：TF11,使用,全零,卷积,步长,池化,LeNet
来源： https://www.cnblogs.com/studyhao1999/p/16029884.html