2023-01-13

课程的开始阶段都比较简单,今天学的唯一值得说一说的是梯度下降法。

梯度下降法中的“梯度”是一个类似于导数的概念,可以将其看作对高维函数的求导,网课老师为了便于理解用了低维函数,所以我的日记也只能用低维函数。



机器学习算法的目的一般都是寻找最优解,而梯度下降就是寻找最优解的。
在一个函数图像中,最值的地方求导应当是等于0的,但是随机选择一个点,这个点的导数就等于0的概率很小,一般情况都要选定一个超参数 “负η”,用它和随机点求导的结果相乘,乘完了之后就会过渡到一个距离最优点更近的点,然后再继续这个步骤,直至找到那个最优点,也就是导数为0以后为止。

当然有时候会发现乘来乘去,导数一会负一会正,一直找不到最优点,这时候很大可能就是超参数 “η” 的值定的太大了,步子迈得太大,走过来走过去也到不了最优点,只能是和最优点一次次地擦肩而过。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 1.梯度 在微积分里面,对多元函数的参数求∂偏导数,把求得的各个参数的偏导数以向量的形式写出来,就是梯度。比如函数...
    kang_james阅读 1,212评论 1 2
  • 梯度下降法简介 多元线性回归中的梯度下降法 随机梯度下降法 梯度下降法 的调试 1.梯度下降法简介 不是一个机器学...
    program_white阅读 1,072评论 0 0
  • 机器学习是做NLP和计算机视觉这类应用算法的基础,虽然现在深度学习模型大行其道,但是懂一些传统算法的原理和它们之间...
    在河之简阅读 20,944评论 4 65
  • AI人工智能时代,机器学习,深度学习作为其核心,本文主要介绍机器学习的基础算法,以详细线介绍 线性回归算法 及其 ...
    erixhao阅读 14,220评论 0 36
  • 从感知机到神经网络 一、感知机 1.概念 感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特...
    Septieme阅读 1,316评论 0 3

友情链接更多精彩内容