scikit-learn 机器学习库入门
案例:写一个能自动分辨苹果和橘子的程序
用分支结构可以吗?
if color == 'yellow':
print('橘子')
else:
print('苹果')
# 黄香蕉苹果怎么办?绿橘子怎么办?
if color != 'yellow' & weight >= 150:
print('苹果')
else:
print('橘子')
# 大绿橘子呢?
人工构造if else规则特别繁琐
不管写多少if else规则,总能找到特定东西无法识别,要达到可用的正确率,就算最简单的分辨苹果橘子也得写成千上万条规则
如果写完分辨橘子苹果的程序,需求变了,要分辨白菜和花菜,又得重写程序,无法复用
我们需要一种通用算法,分辨事物时:自动生成所有规则
机器学习的本质是模式识别(根据已有数据算出数据间的规则(相关性),用规则预测未知数据)
监督学习
根据 特征 预测 标签
抽象:特征工程
算法:创建分类器
训练:用已知标签数据训练分类器
预测:预测未知标签数据,并评价分类器准确与否
1.抽象:特征工程
特征:能将本事物区别于其他事物的可观测指标
特征工程:将搜集到的数据转为算法可用的数学形式
搜集训练数据:去市场测量苹果和橘子的数据并记录在表格中
已知标签:训练数据
类别 | 重量 | 光洁度 |
---|---|---|
苹果 | 150g | 光滑 |
苹果 | 170g | 光滑 |
橘子 | 130g | 粗糙 |
橘子 | 140g | 粗糙 |
未知标签:预测数据
类别 | 重量 | 光洁度 |
---|---|---|
??? | 180g | 光滑 |
??? | 100g | 粗糙 |
目标是什么?
- 根据已有特征和标签数据 训练模型
- 用训练好的模型预测:只有特征没有标签的数据的标签
1:抽象:将现实数据映射到Python中
特征工程,数值化
机器学习算法传入数据必须是数值,不能是其他类型数据 字符串可以用独热编码转为矢量数值 [0,1,0,0,0] 图像可以将像素转为数值类型:
[ [[255,0,0],[255,0,0],[0,0,1]],
[[255,1,255],[11,22,33],[33,44,55]],
..... ]
降维后:
[[255,0,0],[255,0,0],[0,0,1],[255,1,255],[11,22,33],[33,44,55]]
In [2]:
# 样本特征和标签
features = [[150, 0], [170, 0], [130, 1], [140, 1]] # 训练数据,特征
labels = [0, 0, 1, 1] # 训练数据,标签
# 预测数据的特征
test = [[180, 0], [100, 1]]
# 没有预测数据的标签,需要算法预测出来
2:算法:创建分类器
In [5]:
from sklearn import tree # 决策树分类器
In [6]:
# 创建分类器(模型,算法),还没有分类规则,空分类器
clf = tree.DecisionTreeClassifier()
clf
Out[6]:
DecisionTreeClassifier(class_weight=None, criterion='gini', max_depth=None,
max_features=None, max_leaf_nodes=None,
min_impurity_decrease=0.0, min_impurity_split=None,
min_samples_leaf=1, min_samples_split=2,
min_weight_fraction_leaf=0.0, presort=False, random_state=None,
splitter='best')
3:训练(学习):用样本数据训练分类器
fit,训练:给空算法灌入训练特征和标签,训练算法
In [7]:
# 分类器通过训练数据寻找模式
# sklearn中,训练算法包含在分类器里,叫fit(发现训练数据的固有模式)
clf.fit(features, labels)
Out[7]:
DecisionTreeClassifier(class_weight=None, criterion='gini', max_depth=None,
max_features=None, max_leaf_nodes=None,
min_impurity_decrease=0.0, min_impurity_split=None,
min_samples_leaf=1, min_samples_split=2,
min_weight_fraction_leaf=0.0, presort=False, random_state=None,
splitter='best')
4.预测:评价训练好的分类器,用它分辨一些水果
根据数据的特征,预测它的标签
In [8]:
# 预测特征数据
test
Out[8]:
[[180, 0], [100, 1]]
In [9]:
# 评价测试时,分类器的输入应是一些未经训练的、样本外数据的特征
# 根据特征预测标签
clf.predict(test)
Out[9]:
array([0, 1])