《吴恩达机器学习》学习笔记



章节2

课时6 模型描述

学习种类:1.监督学习  又分为回归问题(连续型)和分类问题(离散型)

2.无监督学习

课时7 代价函数

公式源地址
单变量线性回归函数 hθ(x) = θ0 + θ1x 

为了使线性回归函数对数据有较好的预测性,即y(i)到hθ(x(i)) 的距离都很小。

故构造代价函数,也称平均误差公式:


上式中m为训练集样本数量,用平方代替绝对值,再将所有样本点求和再求平均

最佳θ0,θ1满足下式:


课时8 代价函数(1)

1.我们希望找到一条与数据拟合的直线,所以我们构造了下面这个假设函数,包括theta0和theta1,随着参数的选择不同,我们会得到不同的直线,和数据相符额直线如下图绿色直线,代价函数是J(theta0,theta1),我们的目标是最小化代价函数

  2.为了更好的使得代价函数J可视化,我们使用一个简化的假设函数,如下图中所示,假设函数只包括一个参数theta1,代价函数和之前的类似,这里我们的目标就是尽量优化J的值。

  3.假设函数和代价函数是需要我们仔细了解的关键函数

    (1)假设函数是在给定theta1的情况下,是一个关于x的函数

    (2)代价函数J是关于theta1的函数,theta1控制着直线的斜率

    (3)假设threta1等于1,我们要弄清楚的是当theta1=1的时候,J(theta1)的值,接下来计算代价函数的第一个值


    这里我们知道J(1)=0

    代价函数是三段直线的高度和。然后代价函数的计算如下:

     (4)当theta1=0的时候,可以计算绘制下图




    (5)当theta1=-0.5的时候,代价函数的值很大,约为5.25

    (6)经过一些列的计算,可以得到下面的值

    (7)对于每一个theta1的值,都对应着一个假设函数,对应着不同的直线,同时也可以找到不同的J(theta1)的值

      所以我们学习算法的目的是选择不同的theta1的值,求出最小的J(theta)的值,这就是线性回归的目标函数

美妙!

课时9 代价函数(2)

别人的笔记

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容