从DNN到CNN
1）卷积层与汇聚
DNN中，相邻层的所有神经元之间都有连接，这叫全连接；而在CNN中新增了卷积层和汇聚
DNN的全连接层对应CNN的卷积层
汇聚其实是与激活函数类似的附件
单个卷积层的结构是：卷积层-激活函数-（汇聚），其中汇聚可以省略
2）CNN专攻多维数据
比如，如果我们使用DNN进行手写数字的识别，但是，图像至少都是二维的，向全连接层输入的时候，需要多维数据拉平为一维数据，这样一来图像的形状就被忽视了，很多特征是隐藏在空间属性
但是卷积层可以保持输入数据的维数保持不变
3）卷积层
CNN的卷积层和DNN的全连接层属于是平级关系
全连接层中的权重和偏置w和b-----卷积层的稍微会复杂
4）输入与输出尺寸的关系
假设输入尺寸（H,W），输出尺寸（FH,FW），填充为P，步幅为S
那么输出尺寸（OH,OW）的计算公式如下
5）多通道
在上面讲的卷积层，仅仅针对二维的输入与输出数据（一般是灰度图像），可称之为单通道
但是彩色图像除了高和长两个维度之外，还有第三个维度也就是通道。例如，以RGB三原色为基础的彩色图像，其通道方向就有红绿蓝三部分，可视为三个单通道二维图像的混合叠加。
一般的当输入数据是二维时，权重被称为卷积核
而输入数据是三维或者更高的时候，权重被称为滤波器（Filter）
把所有输入通道的卷积核叠起来的三维立体。比如 RGB 三通道输入时，一个滤波器 = 3 个 3×3 核摞成 3×3×3。滤波器扫完整张图，产出一个输出通道（特征图）
大白话讲就是：核是二维的砖，滤波器是按输入通道数把砖砌成的墙；一层有 N 个滤波器，就输出 N 个通道
注意：输入数据必须和滤波器的通道数相同值，例如，滤波器是三个通道，那么输入数据也要是三维，否则就容易被降级
所以就需要多通道输出
注意，卷积运算也是有偏置的，如果需要追加偏置，那么每一个通道都会有一个单独的偏置
6）汇聚（池化）
汇聚仅仅是从一定范围内提取一个特征值，所以不存在要学习的内部参数，一般有平均汇聚与最大值汇聚
注意：汇聚仅对图像的高H和宽W进行特征提取，不改变通道数C
7）汇聚的输入尺寸和输出尺寸变换计算
（C,H,W）-------(C,OH,OW)
转载自 CSDN-专业IT技术社区
原文链接：https://blog.csdn.net/qq_64775230/article/details/167174712
