21、Resnet50 中包含哪些算法？

（本文已加入“计算机视觉入门与调优”专栏，点击专栏查看更多文章信息）

这一节汇总一下resnet50 中包含的算法，并且简单介绍。

总共卷积算法、激活算法（relu）、最大池化算法、加法（主要是为了实现残差结构）、全局平均池化、全连接和 softmax 算法这几种算法。

卷积

卷积算法是CNN网络的核心，它的主要作用是对图片（第一层卷积的输入是原始的图片）或者特征图（中间的卷积的输入是上面卷积输出的特征图）进行进一步的特征提取，从而实现在不同尺度下的特征提取或者特征融合。

激活（relu)

经网络中的激活函数有很多，激活函数基本都是跟在卷积层后面，用来对卷积的运算结果施加一个非线性变换的因素。

因为卷积算法的主要实现步骤就是乘法和加法，而乘法和加法在数学中，是一种线性变换，再多的乘法和加法，最终还是线性的。也就是说，如果一个卷积层后面紧跟着另一个卷积，那么两个卷积的作用和一个卷积是一样的。

为了将两个卷积区分开，需要在卷积后面添加一个非线性因素的算法，使得两个卷积连接起来并不能等价于一个卷积。

激活层的一个重要作用就是这个，另一个重要的作用就是完成卷积输出的激活，将部分神经元激活，而将部分神经元关闭。

池化

池化层的作用是为了减少运算量，同时保留特征图中的关键特征。