文章目录

---

前言

卷积神经网络（Convolutional Neural Network，CNN）是深度学习神经网络经典形式之一，由于其计算过程中包含卷积运算，因此得名。卷积神经网络（CNN）通过使用卷积层来提取图像数据的局部特征，再通过池化层（Pooling Layer）来降低特征的空间维度，最后通过全连接层（Fully Connected Layer）进行分类或回归任务。CNN已经在图像识别、目标检测、图像生成和许多其他领域取得了显著的进展，成为了计算机视觉和深度学习研究的重要组成部分。

卷积神经网络最为关键的两个步骤是执行卷积（Convolution）操作和进行池化（Pooling）处理。卷积用于特征提取，通过卷积核在输入数据上滑动计算加权和；池化用于特征降维，通过聚合统计池化窗口内的元素来减少数据空间大小。

图像在计算机中是一堆按顺序排列的数字，数值为0到255.0表示最暗，255表示最亮，如下图的手写数字图像。

卷积操作是指将一个可移动的小窗口（称为数据窗口，如下图绿色矩形）与图像进行逐元素相乘然后相加的操作。这个小窗口其实是一组固定的权重，它可以被看作是一个特定的滤波器（filter）或卷积核。这个操作的名称“卷积”，源自于这种元素级相乘和求和的过程。这一操作是卷积神经网络名字的来源。

卷积有哪些重要参数？卷积的重要参数主要包括卷积核大小（Kernel Size）、步长（Stride）以及填充（Padding），它们共同决定了卷积层的输出特征图的尺寸和特性。另外图像及输出特征图通道数也决定卷积神经网络的模型训练效果。

• 卷积核大小（Kernel Size）：决定了感受野的大小，即每次卷积操作能够覆盖的输入区域大小。
• 步长（Stride）：决定了卷积核在输入图像或特征图上滑动的距离。步长为1表示每次滑动一个像素，步长大于1则表示每次滑动多个像素。
• 填充（padding）：在输入图像或特征图的边缘添加额外的零值，以控制输出特征图的尺寸。常见的填充方式有“valid”（无填充）和“same”（填充后输出尺寸与输入相同）。
• 通道数（Channels）：对于输入图像，通道数指的是颜色通道数（如RGB图像的通道数为3）。对于卷积层，输出特征图的通道数由卷积核的数量决定。

一、卷积核大小（Kernel Size）

卷积核的大小是决定卷积层功能的重要参数之一。卷积核的大小通常指的是卷积核的维度，如3x3、5x5等，表示卷积核在输入数据上滑动的局部区域大小。

如下图，是一个大小为3x3的卷积核，对输入矩阵进行卷积操作。

1. 卷积核大小的作用

卷积核的大小决定了网络能够获取的空间维度信息。较大的卷积核可以捕捉更多的输入信息，从而可能获得更好的性能，但同时也会增加计算量，并可能使网络容易过拟合，较小的卷积核虽然计算效率较高，但可能会丢失一些全局信息。

2. 常见的卷积核大小

3x3：这是一个平衡的选择，可以捕捉一定的空间信息，同时不会使计算量过大。

5x5：更大的卷积核可以捕获更多的上下文信息，但计算成本也更高。

7x7：这些较大的卷积核可以提供更多的信息，但除非特定任务需要，否则通常较少使用，因为性能提升可能与计算成本不成比例。

3. 选择卷积核大小的原则

选择卷积核大小应根据具体任务、输入数据的尺寸以及计算资源来决定。通常情况下，可以从经验规则开始，如使用3x3卷积核，然后根据需要调整。较大的任务或复杂的数据集可能需要更大的卷积核来捕获更多细节。

在使用卷积层时，除了卷积核大小，还需要考虑步长（stride）、填充（padding）等其他参数，这些因素一起决定了卷积层输出的特征图的空间维度。合理配置这些参数对于优化网络性能至关重要。

二、步长（Stride）

滑动卷积核时，我们会先从输入的左上角开始，每次往左滑动一列或者往下滑动一行逐一计算输出，我们将每次滑动的行数和列数称为Stride，即步长，在之前的图片中，Stride=1；在下图中，Stride=2。

1. Stride的作用

是成倍缩小尺寸，而这个参数的值就是缩小的具体倍数，比如步幅为2，输出就是输入的1/2；步幅为3，输出就是输入的1/3，以此类推。

三、填充（Padding）

填充（padding）是指在输入高和宽的两侧填充元素（通常是0元素）。下图中我们在原输入高和宽的两侧分别添加了值为0的元素，使得输入高和宽从3变成了5，并导致输出高和宽由2增加到4。

下面的动态图，很好的展示了填充后，卷积的计算操作过程：

1. 填充的作用

（1）保留边缘信息

• 在卷积核滑动过程中，输入图像边缘的像素通常参与计算的次数较少，导致边缘特征容易被忽略。通过填充（如补零），边缘像素可以更充分地参与卷积运算，减少边缘信息丢失；
• 例如，3x3的卷积核在未填充时，边缘像素仅参与一次计算，而填充后能多次参与，提升特征提取的完整性。

（2）控制输出特征图尺寸

• 填充允许调整输出特征图的空间维度。例如，当希望输出尺寸与输入相同时，需通过填充补足因卷积核滑动减少的尺寸。

（3）增强网络灵活性

• 填充使网络设计更灵活：若未填充，随着网络加深，特征图尺寸迅速缩减，限制网络深度；填充后可通过调整步长和填充数平衡计算与特征保留需求。例如，使用“same填充”可保持各层特征图尺寸稳定，便于堆叠更多卷积层。

（4）引入平移不变性

• 填充（尤其是零填充）通过模糊边缘位置差异，使网络对目标在图像中的位置变化更鲁棒，从而增强平移不变性。

该动态图形象地展示了卷积层计算的过程，卷积核大小为3x3，然后对输入数据进行了填充，其次步长为Stride=2，卷积计算的结果为输入图像矩阵乘以对应神经元的权重值w，再加上偏置值b。

四、通道数（Channels）

上面只是针对单通道的图像，也就是灰度图，而更普遍的图像表示方式是RGB颜色模型，即红、绿、蓝三原色的色光以不同的比例相加，以产生多种多样的色光。RGB颜色模型中，单个矩阵就扩展成了有序排列的三个矩阵，也可以用三维张量去理解。

其中的每个矩阵又叫这个图片的一个channel（通道），宽、高、深来描述。

那么对一个彩色图像做卷积，到底做了什么呢？下面这张动图，很好地展示了图像卷积计算的过程，原始图像有RGB三个通道channel1-3，对应有3个卷积核Kernel1-3，每一个通道的图片与对应的卷积核做乘加运算，每个通道得到的数值再相加，加上总体的偏置Bias得到特征图（feature map）里面的一个值。

五、池化（Pooling）

讲完卷积，就必须要讲一下池化，因为通常卷积层和池化层都是配合使用的。池化操作有多种方式，其中最常见的是最大值池化（Max Pooling）和平均池化（Average Pooling）。它们分别通过选取局部区域内的最大值和平均值来减少特征图的尺寸。

最大值池化（Max Pooling）：在定义的池化窗口内，选取所有元素中的最大值，并将该最大值作为池化结果输出到下一层特征图的对应位置。

平均池化（Average Pooling）：在定义的池化窗口（如2x2、3x3等）内，计算所有元素的平均值，并将该平均值作为池化结果输出到下一层特征图的对应位置。

下面是以动态图的形式，展示两种池化操作的异同。

1. 池化层的作用

（1）降维：池化层通过池化操作降低特征图的空间维度，减少计算复杂度，同时保留重要的特征信息。

（2）防止过拟合：池化层的降维操作减少了模型参数的数量，有助于防止模型过拟合，提高模型的泛化能力。

（3）位置不变性：池化层通过取局部区域的最大值或平均值，使得模型对特征的位置变化具有一定的不变性。

六、卷积层的作用

卷积层通过可学习的滤波器（卷积核）对输入数据进行局部感知，捕捉空间关联性强的特征。例如，低层卷积核可提取边缘、角点、纹理等基础特征，而高层通过组合这些基础特征逐步形成更复杂的抽象特征（如物体形状、部件等）。这种层次化特征组合能力使CNN无需人工设计特征，而是通过反向传播自动优化滤波器参数。

手动设计卷积核，提取图像特征（如，边缘特征）

下图是ResNet卷积神经网络中的卷积层提取的特征图：

在图像目标检测、识别、分类任务中，卷积神经网络（CNN）通过多层次的局部感知、参数共享和反向传播机制，逐步从原始像素中学习目标的抽象特征。

1. 局部特征的层次化提取过程

（1）低层基础特征学习

输入图像通过卷积核（如3x3或5x5的滤波器）进行局部扫描，计算像素点与卷积核的加权和，生成特征图。这些初始卷积核通过反向传播自动学习，捕捉边缘、角点、颜色梯度等基础特征。

（2）中层抽象特征组合

随着网络加深，低层特征被组合为更复杂的模式。例如，边缘组合成纹理，纹理组合成物体部件（如车轮、眼睛）。这些组合通过多层卷积实现，如VGGNet通过堆叠多个3×3卷积层扩大感受野，模拟生物视觉系统的层次化处理。

（3）高层语义特征表达

深层网络通过非线性激活函数（如ReLU）和跨通道信息融合，提取目标整体的语义特征（如“汽车”“人脸”）。例如，ResNet的残差块允许梯度直接传递，促进深层网络学习高阶特征。

参考资料：E等于mc平方