昨晚学了挺长时间的，一个40分钟，一个70分钟。学完之后放纵了一下撸了一把。

学了啥呢，cnn,cnn,dropout后面的内容，确实有些想不起来了。

使劲想了想，没看视频，居然还是想起一大些，卷积层，池化层的尺寸分析，计算连接数量，以及一些古老的和最新的卷积网络介绍，目前用的多的有RESNET,VGNET。

曾经流行的LaNET，AlexNET有两个GPU，ZFNET是AlexNET改变而来，filtersize变大，使用了Relu和交叉熵损失。googleNET引入inception模块。

翻笔记发现还学过学习率调参的方法。multistep不错，但需要人为设定初值和其他一些东西。而ADAM的全自动听说是可以的。

还有个疑问没解决，关于关于连接数量的

早安