39.常用的轻量级网络——MobileNet

  • MobileNet 是针对手机等嵌入式设备提出的一种轻量级的深层神经网络
    • 该网络结构在VGG的基础上使用DW+PW的组合
    • 在保证不损失太大精度的同时，降低模型参数量

39.1 设计思想

  • 采用深度可分离卷积代替传统卷积
    • 采用DW卷积在减少参数数量的同时提升运算速度
    • 但是由于每个feature map只被一个卷积核卷积，因此经过DW输出的feature map不能只包含输入特征图的全部信息，而且特征之间的信息不能进行交流，导致“信息流通不畅”
    • 采用PW卷积实现通道特征信息交流，解决DW卷积导致“信息流通不畅”的问题。
  • 使用stride=2的卷积替换pooling
    • 直接在卷积时利用stride=2完成了下采样，从而节省了需要再去用pooling再去进行一次下采样的时间，可以提升运算速度

39.2 网络架构

  • DW conv和PW conv
    • MobileNet的网络架构主要是由DW conv和PW conv组成，相比于传统卷积可以降低\dfrac{1}{N} + \dfrac{1}{Dk}倍的计算量。
    • 标准卷积与DW conv和PW conv如图所示:

  • 深度可分离卷积与传统卷积运算量对比：


  • 网络结构：


  • MobileNets的架构


39.3 实验结果

  • 使用相同的结构，深度可分离卷积虽然准确率降低1%，但是参数量减少了6/7

大数据视频推荐：
网易云课堂
CSDN
人工智能算法竞赛实战
AIops智能运维机器学习算法实战
ELK7 stack开发运维实战
PySpark机器学习从入门到精通
AIOps智能运维实战
腾讯课堂
大数据语音推荐：
ELK7 stack开发运维
企业级大数据技术应用
大数据机器学习案例之推荐系统
自然语言处理
大数据基础
人工智能：深度学习入门到精通

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容