deep-learning(1) - 随手记录的知识点

业界通常认为第一层是隐藏层的第一层

AI会遇上工程类问题

Padding补零操作,可以保证卷积核在每块区域都进行卷积,迭代次数越多,更有效果,提取特征更好

生成器和迭代器,存在的意义,一般我们需要对一个数组进行操作的时候,我们要遍历出来操作,比如一亿个参数,我们不可能一次性全部取出来,一个一个的去取,这就是生成器存在的意义。

Dataloader加载数据到内存

Next(iter(a))

转换成0,1 转换成正态分布

化为标准正态分布之后,学习率是最高的

One-hot torch.scatter() 起到填充的效果

One-hot编码

猪【1,0,0】 狗【0,1,0】 牛【0,0,1】

因为标签是单一的一个啊,所以我们需要转化我们的标签为独热编码。

当我们网络跑出【0.1,0.7,0.3】该值与狗最相近

为了生成one-hot

需要零矩阵

Torch.zeros()//帮我们生成了零阵

反向求导,就是做梯度更新的意思

关于激活函数

激活函数都是高度非线性的,会有一个陡增的变化趋势,从中其实我们可以得知,需要拟合度越高越好。拟合我们的训练数据。


图片1.png
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 莫烦Pytorch代码笔记 pytorch已经是非常流行的深度学习框架了,它的动态计算图特性在NLP领域是非常有用...
    雪离开的地方阅读 5,298评论 0 7
  • 本文是Deep Learning Course总结系列的第五篇,本文的主要内容是对生成模型PixelCNN,Pix...
    舒也ella阅读 3,519评论 0 4
  • 女性必须学会欣赏同性,必须要有可以相濡以沫的女朋友。 不妒忌,不猜忌,并且懂得不用道德枷锁和有色眼镜来绑架你的同性...
    陈妥阅读 969评论 0 3
  • 所慕山河遇城雨,轻纸伞,拈叶玉珠,万般朦胧静 步履尘寰经世事,易纸笔,难言声色,付悦他人颜
    临窗雨幕阅读 33评论 0 1
  • 十一月 一个我无法定义的季节 充满了 粉红色的幻想和欣喜 似乎 真的是验证未知 就在刚刚 满心欢喜憧憬十一月 ...
    平步青云V阅读 314评论 0 2

友情链接更多精彩内容