机器学习笔记(吴恩达机器学习教程)

总体学习方案

章节测试答案

课程每个章节的测试答案可以到我的githup上下载

1 线性代数相关知识

参考吴恩达机器学习的week1内容,关于线性代数讲解

https://www.coursera.org/learn/machine-learning/home/week/1

1.1 Matrix

矩阵 形如 m * n的数组

>> A=[1,2,3;2,3,4]

A =

1 2 3

2 3 4

这是个2*3的矩阵。m=2, n=3

矩阵一般用大写字母表示

Identity Matrix

形如:

1 0 0 0

0 1 0 0

0 0 1 0

0 0 0 1

m x m矩阵,对角线为1,其余为0. 记作I

有公式 A X I = I X A = A

Inverse Matrix

square(m, X m)的matrix, 存在一个矩阵B, 使 A x B = I

>> C=[1,-1;0,1]

C =

1 -1

0 1

>> inv(C)

1 1

0 1

>> C * inv(C)

1 0

0 1

Transpose

矩阵翻转,第一列逆时针旋转90度,成为第一行,以此类推第二列 。。。

A =

1 2 3

2 3 4

5 6 7

>> B = transpose(A)

1 2 5

2 3 6

3 4 7

得到 Aij = Bji

Vector

Vector是n=1的矩阵,demension为m

y=[1;2;3]

y =

1

2

3

向量一般用小写字母表示

Scalar

标量就是只有一个值得变量,例如数字

x=1

y=2.5

2. Supervised Learning 监督学习

参考吴恩达机器学习的week1内容,

https://www.coursera.org/learn/machine-learning/home/week/1

条件- 准备大量输入数据并知道准确的输出,知道输入和输出之间的关系

2.1 解决的问题1

regression problem- 在一个连续输出中,预测结果,意味着我们要在输入值和连续的方程中找到一种关系 Given a picture of a person, we have to predict their age on the basis of the given picture


参考吴恩达机器学习的week1内容,关于线性回归问题的的讲解

https://www.coursera.org/learn/machine-learning/home/week/1

2.1.1 线性回归

1,什么是回归

有输入的函数,输出的结果是个连续的值(例如线性函数)

线性回归就是指具有线性方程的回归 y=a+bx, 就是在N维空间中找一个形式像直线方程一样的函数来拟合数据而已,数据就是准备好的输入和输出集合

2, 已线性函数作为模型

2.1.2 损失函数

1,通过线性函数算出的y值与数据集中准确值之间的误差,累计所有数据的差值。这个差值越小,就说明这个线性函数越拟合我们数据集数据。

线性回归无非就是通过这个损失函数做为评判标准来找出一条直线

2,通过h(x)-y的平方作为cost function

2.1.3  梯度下降

梯度下降不是一个机器学习算法,而是一种基于搜索的最优化方法。通过一次一次的迭代来找到找到一组参数能让我们的损失函数最小。

每个权重通过下面表达式获得

Θj 表示线性方程里面的parameter(a, b), α表示学习率,值越大就表示迈的步子越大,值越小迈的步子越小

后面一串就是对损失函数在Θj这点的偏导数,他决定了下降的方向,配合学习率一步一步指向区域最低点,也就是区域损失函数的最小值。

2.1.4  正规方程

1,不需要多次iteration

2, 不需要scaling 数据值

3, 如果feature比较多,性能消耗比较大(要对matrix求反)

2.2 解决问题2

classification problems:从给定的输入中,判断离散的种类(判断是或者不是) Given a patient with a tumor, we have to predict whether the tumor is malignant or benign

2.2.1  sigmoid函数

1, 已sigmoid 函数作为模型

2.2.2 decision boudary

2.3 Neural Network

3. Unsupervised Learning 非监督学习

条件- 准备大量输入数据,不知道准确的输出,分类出相似的cluster,但不知道,这个cluster是什么玩意,也不知道有什么用

 聚类

 降维

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,294评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,780评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,001评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,593评论 1 289
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,687评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,679评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,667评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,426评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,872评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,180评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,346评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,019评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,658评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,268评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,495评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,275评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,207评论 2 352

推荐阅读更多精彩内容