多变量梯度下降(Gradient Descent for Multiple Variables)

与单变量线性回归类似，在多变量线性回归中，我们也构建一个代价函数，则这个代价函数是所有建模误差的平方和，即：
image.png

，

其中：
image.png

我们的目标和单变量线性回归问题中一样，是要找出使得代价函数最小的一系列参数。 多变量线性回归的批量梯度下降算法为：

image

即：

image

求导数后得到：

image
image.png

我们开始随机选择一系列的参数值，计算所有的预测结果后，再给所有的参数一个新的值，如此循环直到收敛。

代码示例：

计算代价函数
image.png

其中：
image.png

Python 代码：

def computeCost(X, y, theta):
    inner = np.power(((X * theta.T) - y), 2)
    return np.sum(inner) / (2 * len(X))
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容

  • 《机器学习》单变量线性回归
    2.1 模型表示 我们的第一个学习算法是线性回归算法。在这段视频中，你会看到这个算法的概况，更重要的是你将会了解监...
    Zia昭阅读 380评论 0赞 0
  • 梯度下降法（Gradient Descent）
    转载-刘建平Pinard-www.cnblogs.com/pinard/p/5970503.html 在求解机器学...
    商三郎阅读 3,534评论 0赞 2
  • 一元线性回归-梯度下降法
    在高数中，我们求解一个函数的最小值时，最常用的方法就是求出它的导数为0的那个点，进而判断这个点是否能够取最小值。但...
    耳朵和爪子阅读 3,904评论 2赞 5
  • 诗词《江城子.密州》
    密州江城太守苏夫子，得罪权贵被贬，黄昏落日青山，在城墙上不禁感慨，少年郎的轻狂，可以左牵黄狗，右擎苍鹰，带着一大堆...
    三锅先生阅读 268评论 0赞 1
  • 进口青龙虾
    今天下午，爸爸妈妈接完我以后，带着我去送水。我们来到了一个酒店送水，爸爸妈妈在厨房卸水的时候，爸爸告诉我里...
    45cbff51831c阅读 1,561评论 1赞 0