RBM

RBM


限制波尔兹曼机(RBM)


5. Restricted Boltzmann Machines 是什么?

Geoff Hinton 发表了 RBM 的论文,这个贡献也使他被称为深度学习之父。

RBM 是 Feature Extractor Neural Nets 家族即 Autoencoders 的一员,可以通过重建 inputs 来自动学习数据中的 pattern。

RBM 有两层,有个限制条件是,同一层的node不可以有联系。它将 inputs 编码成数字集,在回溯的时候,又把数字解码成 inputs 的原来状态。而且RBM不需要训练的数据是labeled。




6.为什么RBM可以改善梯度消失的问题呢?

是怎么避免 vanishing gradient 的问题的呢,就是不用 Back propagation,而是用 Deep Belief Nets 替代。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容