线性编码的提出是基于这样一个问题
激活函数的输出是在一定范围内的,比如sigmoid函数输出在【0,1】
但是我们的原始输入不一定在【0,1】,例如利用PCA我们的输入在0为均值一定方差的分布上。
所以这时我们把最后一层激活函数使用f(z) = z
则此时结果的输出就有可能和输入对应。因为这个激活函数是线性的,所以我们称其为线性编码。
注意除了最后输出层前面的层都为非线性激活函数(sigmoid、tanh、ReLU等等)
利用线性编码我们不必将所有输入归一化到一定的范围内。
线性编码
最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 第二个Topic讲深度学习,承接前面的《浅谈机器学习基础》。 深度学习简介 前面也提到过,机器学习的本质就是寻找最...
- Neil Zhu,简书ID Not_GOD,University AI 创始人 & Chief Scientist...
- 姓名:周雪宁 学号:1702110196 转载:https://mp.weixin.qq.com/s/7DgiXC...
- 说明: 本系列文章翻译斯坦福大学的课程:Convolutional Neural Networks for Vis...