最近在研究一些模型网络简化的问题,因此我看到了一篇挺有意思的论文。HS-ResNet: Hierarchical-Split Block on Convolutional Neural Network。这篇文章时对传统的卷积模块进行修改,去掉了冗余块特征信息。简化网络结构。但是并没有降低网络准确度。
从这个准确度图中我们可以看到整个模型相比于各种 ResNet50的变体,准确度都时有提升。整篇文章的思路就是下面这幅图可以准确概括出来的。
上图给出了本文所设计的HSB的网络结构示意图,经过卷积后,特征被Split成s组,每组具有同等的通道通道数。每组特征将被送入到卷积,输出特征表示为。该文创造性的将继续拆分并将与下一组的一起送入。最终的输出特征中小感受野可以聚焦于细节部分,这对于小目标识别很重要,而大感受野特征有助于捕获大目标。 在该文中,作者通过控制组数与通道数约束参数量和计算量。更大的组数意味着更强的多尺度提取性能,其他具体实现细节。我在这里就不细说了。其中这篇文章整体的思路跟华为的ghostnet 很相似。ghostnet 做了一次分解,这里进行了多次分解。整个效果还是有提升的。