机器学习 - 吴恩达版(Stanford)笔记 005-008

Topic: cost Function

在Regression中,我们需要去拟合(fit)数据和我们的模型函数。

这样函数和数据集中的一些training data就会不拟合,在几何意义上有距离。

Cost Function就是为了量化的表示函数参数与数据集的契合程度而出现的。


举个例子,对于LR而言,我们要做的是选择合适的theta0和theta1,来让我们的线性函数拟合这个数据集。

由于这是一个很简单的例子,是二维的,因变量只有一个(polynomial)。

所以我们很容易根据中小学的知识得到几何距离公式


其中h_{\theta }(x)是hypothesis function,也就是我们所预测的Regression,而h_{\theta }(x^{(i)})是具体某个training data的预测值

我们寻找最好参数的任务就变成了:


在最简化的情况下,我们连theta0都没有,只有一个theta1.

即hypothesis function穿过数轴原点。  

在本节视频中,我们再来关注Cost Function


这是J函数的等高线图

虽然我们可以通过等高线图来得出结论,但我们真正需要的是一个可以高效的帮助我们找到适合参数的算法,而不是去想办法画等高线图,这个图只是为了帮助我们理解Cost Function J随参数的变化。

好的算法见下一章,Gradient Descent.

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Topic: Model Representation 假设你的朋友有一个1250 square feet的房子,...
    Wallace_QIAN阅读 248评论 0 0
  • 机器学习是做NLP和计算机视觉这类应用算法的基础,虽然现在深度学习模型大行其道,但是懂一些传统算法的原理和它们之间...
    在河之简阅读 20,598评论 4 65
  • week6课程更多地是讲解类似best practice的工程实践。讲述了实际训练模型过程中我们会遇到的两大类问题...
    geekpy阅读 886评论 0 0
  • 麻麻给二岁七个月的宝宝买了新的安全座椅,在引导宝宝的乘坐兴趣。 麻麻:哇,你的安全座椅真漂亮! 然然:嗯嗯,上面还...
    kueny阅读 312评论 0 0
  • (稻盛哲学学习会)打卡第106天 姓名:洪波 公司:宁波万尚进出口 部门:分水碶 组别:幸福精进学习营第40期-感...
    洪波66阅读 174评论 0 0