1. SKConv介绍

1.1  摘要：在标准卷积神经网络（CNN）中，每层中阿尔蒂神经元的感受野被设计为共享相同的大小。在神经科学界众所周知，视觉皮层神经元的感受野大小受到刺激的调制，这在构建CNN时很少考虑。我们在CNN中提出了一种动态选择机制，允许每个神经元根据输入信息的多个尺度自适应地调整其感受野大小。设计了一个称为选择性内核（SK）单元的构建块，其中具有不同内核大小的多个分支使用softmax注意力进行融合，该注意力由这些分支中的信息引导。对这些分支的不同关注产生融合层神经元的有效感受野的不同大小。多个SK单元堆叠到称为选择性内核网络（SKNets）的深度网络。在ImageNet和CIFAR基准测试中，我们通过经验证明SKNet的性能优于现有的最先进的架构，模型复杂度更低。详细的分析表明，SKNet中的神经元可以捕获不同尺度的目标对象，这验证了神经元根据输入自适应调整其感受野大小的能力。

官方论文地址：h