38、池化的特征不变性

池化操作有一个比较独特的特性，叫作特征不变性。

很多文章中是这么描述池化的特征不变性的：池化操作的特征不变性，可以提高模型对图片平移、缩放和旋转等变换的鲁棒性。

之前看到这句话的时候，似懂非懂。后来查了一些资料，发现这句话说的其实是池化算法对于原始图片的变换具有轻微的容忍度。

也就是说，有了池化算法，模型可以容忍输入的图像有轻微的旋转、平移或者缩放，可以在不改变任何模型算法或结构的情况下，依旧推理出正确的结果。

举个例子，下面的图片示意了最大池化对于图片轻微旋转的容忍度。

如果输入图片有轻微的旋转，经过最大池化，只要图片旋转的角度不是很厉害，依旧可以在对应位置获取到目标区域中的最大值12。

同样的，对于图片的平移和缩放变换，池化同样有着类似的轻微容忍度。

注意这里说的是轻微的容忍度。如果一张图片旋转、平移过多，那么经过池化输出的结果肯定是不一样的，这时模型推理的结果可能也就不一样了。

池化操作除了有这种特征旋转不变性的特点之外，还有以下两个优势：

减少计算量

经过池化输出的图片在长宽方向上尺寸变得更小了，从而减少了后面的层的计算量，这一点是显而易见的。

减少过拟合的风险

计算量的减少，带来的另一个显著影响就是池化层后面的参数量需求减少。参数越少，模型过拟合的风险就越低，而这一点在训练过程中尤为重要。

正是因为这些，使得池化操作经常出现在CNN网络中。

在 resnet50 这一神经网络中，就会有一个最大池化，还有一个平均池化，当然后面我们也会手写实现这两个算法。