55/2020第五章卷积神经网络(CNN)·第五章卷积神经网络(CNN)。5.1卷积神经网络的组成层■5.1.1输入层■5.1.2卷积层■5.1.3激活层■5.1.4池化层·5.1.5全连接层。5.2卷积在图像中有什么直观作用。5.3卷积层有哪些基本参数？。5.4卷积核有什么类型？。5.5二维卷积与三维卷积有什么区别？。5.7有哪些池化方法？o5.81×1卷积作用？。5.9卷积层和池化层有什么区别？。5.10卷积核是否一定越大越好？。5.11每层卷积是否只能用一种尺寸的卷积核？。5.12怎样扌能减少卷积层参数量？。5.13在进行卷积操作时，必须同时考虑通道和区域吗？。5.14采用宽卷积的好处有什么？。5.15理解转置卷积与棋盘效应■5.15.1标准卷积■5.15.2转置卷积■5.15.3棋盘效应。5.16卷积神经网络的参数设置。5.17提高卷积神经网络的泛化能力。5.18卷积神经网络在不同领域的应用■5.18.1联系■5.18.2区别。5.19卷积神经网络凸显共性的方法？·5.19.1局部连接■5.19.2权值共享■5.19.3池化操作·5.20全连接、局部连接、全卷积与局部卷积。5.21局部卷积的应用o5.22 NetVLAD池化（贡献者：熊楚原-中国人民大学）。参考文献第五章卷积神经网络CNN)卷积神经网络是一种用来处理局部和整体相关性的计算网络结构，被应用在图像识别、自然语言处理甚至是语音识别领域，因为图像数据具有显著的局部与整体关系，其在图像识别领域的应用获得了巨大的成功。5.1卷积神经网络的组成层以图像分类任务为例，在表5.1所示卷积神经网络中，一般包含5种类型的网络层次结构：fle://home/shishuai/Desktop/第五章卷积神经网路(CNN).html1/235/5/2020第五章倦积神经网络(CNN)表5.1卷积神经网络的组成CNN层次输出尺寸作用结构输入层卷积网络的原始输入，可以是原始或预处理后的像素矩阵参数共享、局部连接，利用平移不变性从全局特征图提取局部卷积层K特征激活层K将卷积层的输出结果进行非线性映射池化层进一步筛选特征，可以有效减少后续网络层次所需的参数量K(W2·H2·将多维特征展平为2维特征，通常低维度特征对应任务的学习全连接层目标（类别或回归值）W1×H1×3对应原始图像或经过预处理的像素值矩阵，3对应RGB图像的通道；K表示卷积层中卷积核（滤波器）的个数W2×H2为池化后特征图的尺度，在全局池化中尺度对应1×1：(W2·H2·K)是将多维特征压缩到1维之后的大小，C对应的则是图像类别个数。5.1.1输入层输入层((Input Layer)通常是输入卷积神经网络的原始数据或经过预处理的数据，可以是图像识别领域中原始三维的多彩图像，也可以是音频识别领域中经过傅利叶变换的二维波形数据，甚至是自然语言处理中一维表示的句子向量。以图像分类任务为例，输入层输入的图像一般包含GB三个通道，是一个由长宽分别为H和W组成的3维像素值矩阵H×W×3,卷积网络会将输入层的数据传递到一系列卷积、池化等操作进行特征提取和转化，最终由全连接层对特征进行汇总和结果输出。根据计算能力、存储大小和模型结构的不同，卷积神经网络每次可以批量处理的图像个数不尽相同，若指定输入层接收到的图像个数为N,则输入层的输出数据为N×H×W×5.1.2卷积层卷积层(Convolution Layer)通常用作对输入层输入数据进行特征提取，通过卷积核矩阵对原始数据中隐含关联性的一种抽象。卷积操作原理上其实是对两张像素矩阵进行点乘求和的数学操作，其中一个矩阵为输入的数据矩阵，另一个矩阵则为卷积核（滤波器或特征矩阵），求得的结果表示为原始图像中提取的特定局部特征。图5.1表示卷积操作过程中的不同填充策略，上半部分采用零填充，下半部分采用有效卷积（舍弃不能完整运算的边缘部分）。fle://home/shishuai/Desktop/第五章卷积神经网路(CNN).html2/235/5/2020第五章卷积神经网络(CNN)SAME0图5.1卷积操作示意图5.1.3激活层激活层(Activation Layer)负责对卷积层抽取的特征进行激活，由于卷积操作是由输入矩阵与卷积核矩阵进行相差的线性变化关系，需要激活层对其进行非线性的映射。激活层主要由激活函数组成，即在卷积层输出结果的基础上嵌套一个非线性函数，让输出的特征图具有非线性关系。卷积所示，能够限制小于0的值为0，同时大于等于0的值保持不变。0(5-1)5.1.4池化层池化层又称为降采样层(Downsampling Layer),作用是对感受域内的特征进行筛选，提取区域内最具代表性的特征，能够有效地降低输出特征尺度，进而减少模型所需要的参数量。按操作类型通常分为最大池化(Max Pooling)、平均池化(Average Pooling)和求和池化(Sum Pooling),它们分别提取感受域内最大、平均与总和的特征值作为输出，最常用的是最大池化。5.1.5全连接层全连接层(Full Connected Layer)负责对卷积神经网络学习提取到的特征进行汇总，将多维的特征输入映射为二维的特征输出，高维表示样本批次，低位常常对应任务目标。5.2卷积在图像中有什么直观作用在卷积神经网络中，卷积常用来提取图像的特征，但不同层次的卷积操作提取到的特征类型是不相同的，特征类型粗分如表5.2所示。表5.2卷积提取的特征类型fle://home/shishuai/Desktop/第五章卷积神经网路(CNN).html3/23