Task01:
观看机器学习介绍(1 天)
keyword
一、Regression
- 定义
- 应用
二、Model
- 模型假设
- 模型评估
- 模型优化
感受:仅仅是完成任务,但并不理想。
1、没有学前基础:数学知识遗忘的差不多了;可以算得上没有python基础;
2、看完视频并零零散散地记录了一些笔记,对回归有了一定的认知,但【模型】这一部分就一言难尽了。
一、Regression
定义:
Regression,找到function,input feature ,output scalar
应用:
Regression 可以进行股票预测、自动驾驶、推荐系统,它输出的是数值
- 股票预测:f(股票数据)=股票预测
- 自动驾驶:f(无人车感知的信息)=方向盘的角度
- 推荐系统:f(使用者A 商品B)= 购买可能性
二、 Model
1、模型假设
- 一元线性模型
- 多元线性模型
2、模型评估
如何评估模型的好坏。从数学的角度解释:可以用真实值和期望值的距离,进行评估。用损失函数(方差)评估模型的好坏:loss小,模型好;

方差公式,来源网络

损失函数
3、模型评估-梯度下降
以一元线性方程为例:
- 引入学习率
:移动的步长
1、随机选取初始值:
2、计算微分,即$w^{0}的斜率 - 大于0,
向右移动
- 小于0,
向左移动
重复以上步骤,直至找到最低点;
多元线性方程与之同理;
———————————————————-
1、如何验证训练好的模型好与坏:
使用训练集和测试集的平均误差来验证模型的好坏

image.png
2、更复杂的模型:一元N次线性模型
引入更为复杂的模型,进行优化

image.png
会出现:模型训练效果好,但是在测试集训练效果不佳的情况——overfitting。需要进行优化:
1、引入多个线性模型,合并到一个线性模型;
2、引入更多的特征,input feature(原模型未涉及的,如血量、高度、重量)
3、需要通过regulartion(正则化),让模型变得更平滑。(函数的平移,与模型的平滑度无关,故不需要考虑bais)。