Deep Layer Aggregation【方法部分解读】

摘要：
视觉识别需要跨越从低到高的层次、从小到大的尺度以及从精细到粗略的分辨率的丰富表示。即使卷积网络的特征层次很深，单独的一层信息也不足够：复合和聚合这些表示可以改进对“是什么”和“在哪里”的推断。架构上的努力正在探索网络骨干的许多维度，设计更深或更宽的架构，但如何在整个网络中最好地聚合层和块需要进一步关注。虽然跳跃连接已被引入以组合层，但这些连接本身是“浅”的，并且仅通过简单的一步操作融合。我们增强了标准架构，通过更深的聚合来更好地融合层间信息。我们的深层聚合结构通过迭代和分层地合并特征层次，使网络具有更好的准确性和更少的参数量。跨架构和任务的实验表明，与现有的分支和合并方案相比，深层聚合改善了识别和分辨率。

1. 引言

表示学习和迁移学习现在已经渗透到计算机视觉中，成为识别引擎。组合性和可微性的简单基本原理产生了令人惊讶的多种深度架构 [23, 39, 37, 16, 47]。卷积网络的兴起作为许多视觉任务的骨干，可以通过合适的任务扩展和数据 [14, 35, 42] 准备好用于不同的目的，使得架构搜索成为保持进步的核心驱动力。网络规模和范围的不断增加现在将精力集中在设计可以系统地组装的模块和连接模式上。这产生了更深更广的网络，但更紧密的连接呢？

更多的非线性、更大的容量和更大的感受野通常会提高准确性，但在优化和计算方面可能会有问题。为了克服这些障碍，已经引入了不同的模块或模块块以平衡和缓解这些数量，如用于降维的瓶颈 [29, 39, 17] 或残差、门控和连接连接用于特征和梯度传播 [17, 38, 19]。根据这些方案设计的网络具有100+甚至1000+层。

然而，仍需进一步探索如何连接这些层和模块。从LeNet [26] 到AlexNet [23] 到ResNet [17] 的分层网络将层和模块按顺序堆叠。层级精