可分离卷积(Separable Convolution)等价转换为传统卷积(Ordinary convolution)的方法,(等价转换,即最终处理效果一致)

发布时间 2023-09-20 20:53:01作者: 楚千羽

写在前面:

可分离卷积提出的原因

  卷积神经网络在图像处理中的地位已然毋庸置疑。卷积运算具备强大的特征提取能力、相比全连接又消耗更少的参数,应用在图像这样的二维结构数据中有着先天优势。然而受限于目前移动端设备硬件条件,显著降低神经网络的运算量依旧是网络结构优化的目标之一。本文所述的Separable Convolution就是降低卷积运算参数量的一种典型方法。
  Separable Convolution将传统卷积分解为Depthwise Convolution与Pointwise Convolution两部分,有效的减小了参数数量。
  Separable Convolution由Depthwise(DW)卷积与Pointwise(PW)卷积组成。Depthwise(DW)卷积与Pointwise(PW)卷积,合起来被称作Depthwise Separable Convolution(参见Google的Xception),该结构和常规卷积操作类似,可用来提取特征,但相比于常规卷积操作,其参数量和运算成本较低。所以在一些轻量级网络中会碰到这种结构如MobileNet。