一.机器学习开发流程
1.获取数据 （公司本身就有，合作过来的数据，购买的数据）
2.数据的基本处理：pd去处理（缺失值，合并表。。。）
3.特征工程（特征进行处理）（重要）
4.找合适的算法进行预测 所谓模型=算法+数据得出来的
5.模型得评估，判定效果
6.若评估没有合格：1.换算法 或者调参 2.特征工程
7.评估合格 上线使用，以API形式提供
二.数据的划分
数据 = 训练集 + 测试集 一般分类范围[70%,30%],[80%,20%],[75%,25%] 选择[75%,25%]最多
训练集：用于训练，构造模型
测试集：用于评估模型是否有效
数据划分API: from sklearn.model_selection import train_test_split
train_test_split(x,y,test_size=None,random_state=None)
x:数据集的特征值
y：数据集的标签值
test_size:测试集的大小,float类型
random_state：随机数种子，不同的种子会造成不同随机采样的结果，相同的种子采样结果相同
return:x_train(训练集特征值), x_test(测试集特征值),y_train(训练集标签值),y_test(测试集标签值)
三.转换器和估计器
转换器
fit_transform():输入数据，直接转换
fit():输入数据，但不做事情 （计算平均值，方差等等）
transform():进行数据的转换
估计器
用于分类的估计器：
sklearn.neighbors k近邻
sklearn.naive_bayes 朴素贝叶斯
sklearn.linear_model.LogisticRegression 逻辑回归
sklearn.tree 决策树
用于回归的估计器：
sklearn.linear_model.LinearRegression 线性回归
sklearn.linear_model.Ridge 岭回归
估计器使用流程：1.调用fit（x_train,y_train）传入训练集特征值，训练集标签值
2.输入测试集的数据（y_predict = predict(x_test) 得到模型的预测值） (预测准确率：score(x_test,y_test))
四.算法的分类
先将训练数据分为监督学习和非监督学习
监督学习：训练数据拥有标记信息得学习任务
非监督学习：训练数据没有标记信息得学习任务
监督学习
1.分类(目标值是离散值得学习任务):k-近邻，朴素贝叶斯，决策树和随机森林，逻辑回归，神经网络
2.回归(目标值是连续值得学习任务)：线性回归，岭回归
3.标注：隐马尔可夫模型
非监督学习
聚类 ： k-means
五.模型评估标准
准确率，精确率和召回率
精确率：预测结果为正例样本中真实为正例的比例(查得准)
召回率：真实为正例的样本中预测结果为正例的比例(查的对)
分类评估的API: from sklearn.metrics import classification_report(y_true,y_predict,target_names=None)
y_true:真实目标值
y_predict:预测目标值
target_names:目标类别名称
return:每个类别精确率和召回率
六：模型选择与调优
交叉验证和网格搜索
交叉验证：将拿到的训练集的数据，分成训练和验证
网格搜索：很多参数需要手动指定的（如k-近邻的k值），叫做超参数，每组超参数都采用交叉验证去进行评估，最后选择最优参数组合建立模型
超参数搜索API：from sklearn.model_selection import GridSearchCV(estimator,param_grid=None,cv=None)
estimator:估计器对象
param_grid：估计器参数{}字典形式
cv:指定几折交叉验证
结果分析：best_score_:最好的准确率
best_estimator_:最好的模型
cv_results_: 每次交叉验证后测试集准确率结果和训练集准确率结果
