- Cardinality没看过?
CNN网络由于其强大的特征表示能力极大地提高了计算机视觉任务的水平,为了进一步增强这种特征表达能力,研究者在三个主要方面对其进行了更深入地研究,分别是网络的深度,网络的宽度,网络的维度。在深度研究层面,像是我们熟知的最早先的网络LeNet,到深度逐渐加深的采用1x1卷积和3x3卷积不断堆叠的VGGNet,再到采用了残差设计的ResNet,证实了网络可以堆叠到几百层甚至上千层。GoogLeNet设计了Inception模块可以对网络的宽度进行研究并证明了其效果。Xeception和ResNeXt提出了网络另一个维度Cardinality,证实了这个维度不仅可以节约大量参数而且展示出了比深度和宽度有更强特征表达能力的效果。所以在除了在以上维度对CNN的特征表达能力进行研究之外,作者对网络结构的另外一个层面进行了探索,那就是注意力机制。早前的注意力机制研究已经进行的如火如荼了。注意力机制的主要目的就是:聚焦图像的重要特征,抑制不必要的区域响应,通过在对通道维度和空间维度组合分析研究,提出了CBAM模块,并证实了网络的性能的提升来自于精确的注意力机制和对无相关噪声信息的抑制。
深度学习问题笔记
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 应用深度学习解决淘宝商品的类目预测问题的项目,总结下文本分类领域特别是应用深度学习解决文本分类的相关的思路、做法和...
- 作者:清凇 链接:https://zhuanlan.zhihu.com/p/25928551 来源:知乎 著作权归...
- 第六章:图像识别与卷积神经网络 * 6.1图像识别问题简介&经典数据集* 6.2卷积神经网络简介* 6.3卷积神经...