随机初始化(Random initialization)

在一些算法中,我们需要给θ初始化,例如梯度下降算法。

在一些算法中,不能初始化参数为全零,例如神经网络。
在神经网络中,如果初始化所有的参数(也就是权重)相同,那么所有输入都相同,神经网络就失去了它的作用了。
所以我们需要随机初始化。


Octave中:

为了训练神经网络,我们需要对权重进行随机初始化。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容