用梯度下降法来调整参数w和b

我们已经学会了代价方程,其中我们知道要使得代价方程最小,我们需要尝试出一组w和b,使其达到最小。这篇文章就要介绍如何用梯度下降法来找到w和b。

如下图所示,代价方程在三位空间的表现形式可以是下面这样的。无论我们从代价函数的哪个点开始进行梯度下降,最终都会达到最低点。

图片发自简书App


下图所示只取了J和w。

按照梯度下降法的方式,我们无论从J曲线上哪个点开始,都可以达到最低点。具体原理可以看w关于J的公式。dJ/dw是这条曲线的斜率。斜率前面的阿尔法是学习速率,用来下降的速度。当w在最低点的右边,曲线斜率为正,所以w的值会不断的降低直到最小。左边同理,w会不断变大到J最小为止。这个梯度下降法公式同理也可以运用于b,只需做如下图所示的调整即可。

图片发自简书App
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容