多变量梯度下降(Gradient Descent for Multiple Variables)

与单变量线性回归类似,在多变量线性回归中,我们也构建一个代价函数,则这个代价函数是所有建模误差的平方和,即:
image.png

其中:
image.png

我们的目标和单变量线性回归问题中一样,是要找出使得代价函数最小的一系列参数。 多变量线性回归的批量梯度下降算法为:

image

即:

image

求导数后得到:

image
image.png

我们开始随机选择一系列的参数值,计算所有的预测结果后,再给所有的参数一个新的值,如此循环直到收敛。

代码示例:

计算代价函数
image.png

其中:
image.png

Python 代码:

def computeCost(X, y, theta):
    inner = np.power(((X * theta.T) - y), 2)
    return np.sum(inner) / (2 * len(X))
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 2.1 模型表示 我们的第一个学习算法是线性回归算法。在这段视频中,你会看到这个算法的概况,更重要的是你将会了解监...
    Zia昭阅读 380评论 0 0
  • 转载-刘建平Pinard-www.cnblogs.com/pinard/p/5970503.html 在求解机器学...
    商三郎阅读 3,534评论 0 2
  • 在高数中,我们求解一个函数的最小值时,最常用的方法就是求出它的导数为0的那个点,进而判断这个点是否能够取最小值。但...
    耳朵和爪子阅读 3,903评论 2 5
  • 密州江城太守苏夫子,得罪权贵被贬,黄昏落日青山,在城墙上不禁感慨,少年郎的轻狂,可以左牵黄狗,右擎苍鹰,带着一大堆...
    三锅先生阅读 268评论 0 1
  • 今天下午,爸爸妈妈接完我以后,带着我去送水。我们来到了一个酒店送水,爸爸妈妈在厨房卸水的时候,爸爸告诉我里...
    45cbff51831c阅读 1,561评论 1 0