UIU-Net: U-Net in U-Net for Infrared Small Object Detection
* Authors: [[Xin Wu]], [[Danfeng Hong]], [[Jocelyn Chanussot]]
初读印象
comment:: (UIU-Net)将一个微小的U-Net嵌入到一个较大的U-Net主干中，从而实现对象的多层次多尺度表示学习，特别是对微小对象的学习。这个网络还可以从头开始训练，不依赖预训练。
动机
过去的网络太过依赖于主干网络，而主干网络的预训练权重是由ImageNet数据集生成的。此外网络中的多次下采样降低了特征分辨率和局部对比度信息的损失，对小目标不利。
方法
Resolution-Maintenance Deep Supervision (RM-DS) Module
一个小型的U-Net
与一般的U-Net有以下区别：
- RSU模块以中间特征图而不是输入图像作为输入来学习和编码深度多尺度特征；
- 在每一层中使用扩张卷积提高深层特征分辨率。对于浅层，只将最后一个卷积替换为空洞卷积；然而，对于深层，所有卷积都被不同扩张率的扩张卷积代替，由于深层特征图的尺寸较小，因此内存消耗较低；
- 在RSU模块中引入池化操作以降低计算成本，但未在额外的RSU模块中加入池化操作以减少特征损失。
得益于这种设计，每一阶段内部网络深度的增加对特征分辨率没有影响，每一阶段深度的增长得益于整体网络深度的增长。同时，网络深度的增加增强了全局上下文表示。
Interactive-Cross Attention (IC-A) Module
用以替代原U-Net中的跳跃结构。
没什么特别的。
启发
可以在网络中运用类U-net的结构来降低运算量。