天气凉爽，中午也不大困了，晚上学习状态up
NIN：用感知机，不靠谱，不重要，忽略
Inception是个重头戏，构造了一种并行计算的方式从而大大减少了计算量。它的定义有点意思：找出让已有的稠密组件接近于覆盖卷积视觉网络的最佳局部稀疏结构，个人觉得这个定义有有严重语法错误，正确的说法是：找出接近于已有稠密组件的覆盖卷积视觉网络的最佳局部稀疏结构，Inception第二个重点：设计一种结构，看似增加了一层小尺寸的卷积核，实则将原始输入层通道数进行了降维压缩，达到减少参数量的效果。（但这样的压缩也不能太过分，比如不能100压缩到1，丢失严重，会出问题），至于concate怎么做，咱们程序里见
总结下最流行的几个结构：
1， inception：用于视觉，图像，好用，谁用谁知道
2，resnet： 有inception的更改，用于视觉和图像
3，膨胀卷积，时髦，攻占领域广
4，seq2seq ，难，用于NLP
VGG是个好东西，但VGG是个结合体，咱们明儿聊这个，晚安
