空洞卷积学习笔记

本片博客的主题思路来自于这篇文章——如何理解Dilated Convolutions(空洞卷积)，但是作者似乎是很久之前写的，文字的排版很混乱，自己来写一个新的。

1. 扩张卷积的提出

1. Multi-Scale Context Aggregation by Dilated Convolutions
2. Dilated Residual Networks

这里有原作者推荐的一篇论文笔记，大家有兴趣可以看一看，论文笔记——CVPR 2017 Dilated Residual Networks。

2. 理解的难点

上图是论文 Multi-Scale Context Aggregation by Dilated Convolutions 的原图，我们可以问几个小问题

• 红点代表什么含义
• 为什么扩张卷积，图像尺寸是不改变的
• 图中最外层图像代表什么

本图来自博客 A guide to receptive field arithmetic

上面这张图可以帮助你从直观上更好的理解感受野，这个图来自一篇博客，A guide to receptive field arithmetic for Convolutional Neural Networks，看不懂的话可以看中文翻译版，都很有参考价值。

我们根据感受野的计算公式

$$l_k=l_{k-1}+\left(\left(f_k-1\right)\ast \coprod _{i=1}^{k-1}{s}_i\right)$$

其中，$l_k$ 为第 $k-1$ 层的感受野大小，$f_k$ 是当前层的卷积核大小，$s_i$ 是第 $i$ 层的步长。可以推导出空洞卷积的计算公式，本质上就是在卷积和中间添0，扩大了卷积和的大小。

设普通卷积和的大小为 $f_k$，则等效的空洞卷积核的大小为 $d_k$，有公式

$$d_k=(f_k-1)\times (\mathrm{rate}-1)+f_k$$

回到最初的问题

• 红点代表什么意思？代表的是感受野的中心
• 空洞卷积得到的特征图大小是不变的

关于特征图大小的计算，我们有如下的公式

$$n_{\text{out }}=\lfloor \frac{n_{\text{in }}+2p-k}{s}\rfloor +1$$

其中，$n_{\text{out }}$ 和 $n_{\text{in }}$ 分表代表输出和输入的特征图尺度，$k$ 代表卷积核大小，$p$ 代表填充的尺寸，$s$ 代表卷积的步长。