线性回归

数据:

image.png

需求:预测贷款额度
已知:工资,年龄
分析:额度是未知数y,工资,年龄是已知数x1,x2(特征)
找出y与x1,x2的关系,y=f(x1,x2),就可以预测贷款额度咯

假设:
y(x) = α1 * x1 + α2 * x2 + θ 【线性回归】
α1是x1的权重, α2是x2的权重,θ是偏移量


image.png

一段话:
有许多特征 a ,b , d ....n
这些特征描述了一种情况 y
所以 在已知的数据中, y = f(a ,b , d ....n),特征与结论有某种关系,这种关系用f表示

我们目的是找到这种关系f,来帮助预测,但不关注f,重心在预测
线性回归,就是描述了这些特征与结论用一种线性关系来表达

预测的y*
真实的y_
y_ = y* + θ 有个误差
利用这个误差,来反向逼近预测
而这个误差,建立模型,就是高斯分布
因为高斯面积是1,代表整个预测,高斯函数
g(θ) = xxx

到g(θ)取max时,θ就越趋近0
似然函数 就是高斯函数相乘 g(θ)g(θ)...*
所以是 最大似然,就是为了让θ最趋近于0

为了方便求解,log似然,乘法变加法

加法的结果就是 a - b 形式
那么 b应该尽量小 , 这里的 b 就是 J(θ)----目标函数 (y_ - y*)^2 就是误差的平方

y* = θ^T·X

(y_ - θT·X)2 取最小值

对θ求偏导

最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • AI人工智能时代,机器学习,深度学习作为其核心,本文主要介绍机器学习的基础算法,以详细线介绍 线性回归算法 及其 ...
    erixhao阅读 14,274评论 0赞 36
  • 1 摘要 本报告是在学习斯坦福大学机器学习课程前四节加上配套的讲义后的总结与认识。前四节主要讲述了回归问题,回归属...
    chaaffff阅读 2,925评论 0赞 2
  • 在高数中,我们求解一个函数的最小值时,最常用的方法就是求出它的导数为0的那个点,进而判断这个点是否能够取最小值。但...
    耳朵和爪子阅读 4,020评论 2赞 5
  • 做了一个梦 ,关于外婆,梦里却又没有外婆。 幼儿园初始时期甚至更早时期里我能记得的场景里都有外婆。懵懂时期的我是在...
    林渐霜阅读 586评论 0赞 0
  • 尽管到不了的是远方,回不去的是家乡。但是,过年回家,仍是一年结束后大中国亿万游子最当然的选择。 大年初二,带着老公...
    sherrylovink阅读 1,451评论 16赞 12

友情链接更多精彩内容