ShuffleNet v1 自学笔记

news/2024/7/24 14:25:36 标签: python, 深度学习

        从图上可以看出 ShuffleNet v1在精度上较MobileNet有了不小的提升

        使用组卷积能够减少参数的计算量,但是问题是各组之间没有信息交互。上图a所示每个颜色代表一个组。为了解决这个问题,作者提出了channel shuffle的思想,如上图b所示假设我们采用三个组,那么对每个组再分成三份将他们重新组合。

        作者提到,在resnet中,1*1的卷积的计算量占到了93.4%。所以作者将所有的 1*1卷积换成了组卷积。

         b图是针对步距为1的情况,c图是针对步距为2的情况。

        作者给出的FLOPs的计算。组卷积的理论计算量是普通卷积的\frac{1}{g}(g为组数)。

总结:

ShuffleNet v1就是将1*1卷积换成了组卷积,然后加入了channel shuffle的模块


http://www.niftyadmin.cn/n/1373849.html

相关文章

Integrating Weblogs and Wikis

来源:http://www.pycs.net/users/0000177/categories/blogtools/ As part of a knowledge management effort on our intranet, we have both a wiki (TWiki) and several blogging tools (mostly PyCS). Ive detailed some of the struggles that Ive had with get…

BZOJ5063旅游——非旋转treap

题目描述 小奇成功打开了大科学家的电脑。大科学家打算前往n处景点旅游,他用一个序列来维护它们之间的顺序。初始时,序列为1,2,...,n。接着,大科学家进行m次操作来打乱顺序。每次操作有6步:1、从序列开头(左端&#xf…

一个震惊了整个德国的故事

来源:http://www.smth.edu.cn/pc/pccon.php?id1663&nid43023 不久,德国一家电视台提出高薪,征集“十秒钟惊险镜头”活动。许多新闻工作者为此趋之若鹜,征集活动一时成为人们关注的焦点。在诸多参赛作品,一个名叫…

MobileNetv3自学笔记

v3对比v2 主要有三个部分的改动 1.更新Block(bneck) 2.使用了NAS搜索参数 3.重新设计耗时层结构。 从上图可以看出v3对比v2更准确,更高效。 v2的block 首先经过一个1*1的卷积层(BN,Relu6)进行升维处理。然后是3*3大小…

可爱的 Python:用 Psyco 让 Python 运行得像 C 一样快

可爱的 Python:用 Psyco 让 Python 运行得像 C 一样快英文原文内容: Psyco 是如何工作的使用 PsycoPsyco 的性能Psyco 将何去何从?参考资料关于作者对本文的评价相关内容: Introduction to neural networks 在 Linux 专区还有&…

Inception v3 自学笔记

Inception v1 GoogleNet也就是inceptionv1 是堆叠了9个inception模块 (加入1*1卷积之后的)。 上图为inception模块还是比较简单的。 由于传统的inception模块计算量太大,所以gooldnet使用了1*1卷积对其进行了降维处理。左侧为传统的inception…

微信小程序如何使用iconfont阿里巴巴图标库?

步骤: 1、如图先下载: 2、找到iconfont.css改为iconfont.css 3、修改iconfont.wxss文件的内容,如图复制内容至其文件 4、替换到文件页面当中 5、去页面中引入iconfont.wxss样式即可 转载于:https://www.cnblogs.com/CinderellaStory/p/102231…

Densenet自学笔记

Densenet与Resnet相比 两者都是通过建立前面层与后面层之间的联系来提高网络的性能。Resnet(下图1)是使用add,而Densenet(下图2)是采用concat。 网络结构 Densenet是通过堆叠DenseBlock模块和Transition结构。 Dense…