近年来,目睹了卷积神经网络(CNN)在各种计算机视觉和人工智能应用中的广泛普及。
然而,功能的提高是以大量密集的计算复杂性为代价的,这阻碍了它在诸如移动或嵌入式设备之类的资源受限的应用中的使用。
尽管人们越来越关注内部网络结构的加速,但很少考虑视觉输入的冗余性。
在本文中,我们首次尝试直接从视觉输入中减少CNN加速的空间和通道冗余。
所提出的方法称为ESPACE(消除空间和信道冗余),它通过以下三个步骤起作用:首先,通过一组低秩的卷积滤波器降低卷积层的3D通道冗余度。
其次,提出了一种新颖的基于掩模的选择性处理方案,该方案通过跳过视觉输入的不显着空间位置来进一步加快卷积操作。
第三,通过反向传播使用训练数据对加速网络进行微调。
在ImageNet2012上评估了提出的方法,并在两个广泛采用的CNN(即AlexNet和GoogLeNet)上实现了该方法。
与CNN加速的几种最新方法相比,该方案已证明在AlexNet和GoogLeNet上分别以5.48倍和4.12倍的加速比提供了最新的加速功能,而分类精度的下降却最小。
2023/2/21 22:04:53
384KB
研究论文
1