CNN基础学习

现在感觉，神经网络模型成为了基本单元，或者原理图的元器件，或者积木的基本块，然后人们设计出各种类型的积木块（自己想怎么设计就怎么设计），用这些积木进行搭建，CNN呀，RNN，transformer等诞生了。

CNN 的英文全称是 Convolutional Neural Network，中文译为卷积神经网络。

CNN分成卷积层、池化层和全连接层。
卷积层:特征提取。
池化层:降维。
全连接层:输出结果。

1.组成

1.1 卷积层

功能：网络的核心，用于特征提取。
关键概念：卷积核/滤波器：一个小的权重矩阵（如3x3, 5x5）。以前把filter翻译为滤波器，现在都是翻译成卷积核。

它在输入上滑动，计算局部点积，生成特征图。一个卷积层可以有多个不同的卷积核，每个负责提取一种特征。
特征图：卷积核在输入上滑动计算后得到的输出。它反映了原图中某种特征（如垂直边缘）的分布。
步长：卷积核每次移动的像素数。步长大，输出尺寸小。

填充：在输入图像边缘补零。目的是控制输出特征图的尺寸，防止过快缩小。还有一点原因是如果不填充，通过卷积核扫描计算，它边界（上下左右）的元素被扫描的少，信息就有确实，所以就填充（padding）。注意，填充是一圈一圈的填充。

1.2 激活函数层

功能：引入非线性，使网络能够学习复杂的模式。
常用函数：ReLU。它将所有负值置零，保留正值。计算简单，能有效缓解梯度消失问题。

1.3 池化层

功能：进行空间下采样，减少参数和计算量，并增强特征的空间不变性。
常用类型：
最大池化：取窗口内的最大值。最常用，能保留最显著的特征。平均池化：取窗口内的平均值。特点：池化操作是确定性的，没有需要学习的参数。

1.4 全连接层

功能：通常出现在网络的最后几层。
它将前面卷积和池化层提取到的、在空间上展开的二维高级特征“拉直”成一维向量，并进行综合，用于最终的分类或回归输出。

注意：在现代架构（如ResNet）中，常用“全局平均池化”替代一部分全连接层，以减少过拟合。

2.超参数

卷积核超参数:步长，大小。
一个卷积核的通道数由输入的通道数决定。比如卷积核我们设置大小为mxn，输入通道为3，那么一个卷积核就是mxnx3。注意:一个卷积核生成一个特征图——啥意思呢？就比如输入3个通道，那3个通道各个通道对应一个卷积计算，做卷积计算时会有3个结果（每个通道一个），然后3个卷积结果相加就是对应特征图的一个元素。

填充几圈数。
输入通道数，
网络层数，
激活函数，
学习率，
等等。