数据集划分

常用方法:(1)简单分离训练集和测试集,(2)K折交叉验证分离
1.最简单分离测试集和测试集:train_test_split
train_test_split是交叉验证中常用的函数,功能是从样本中随机的按比例选取训练集和测试集。

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
#导入数据
filename = "d:/my_project/input/pima-indians-diabetes.data.csv"
names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class']
data = pd.read_csv(filename, names=names)
#将数据分为输入数据和输出数据
X = data.iloc[:, 0:8].as_matrix()
y = data.iloc[:, 8].as_matrix()
#划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=4)
#训练模型
model = LogisticRegression()
model.fit(X_train, y_train)
result = model.score(X_test, y_test)
print("算法评估结果:%.3f%%" % (result))
  1. K折交叉验证
    K折交叉验证是用来评估机器学习算法的黄金法则,K=10是一般的建议。
import cross_val_score
import sklearn.model_selection import KFold

kfold = KFold(n_splits=10, shuffle=False)
model = LogisticRegression()
result = cross_val_score(model, X, y, cv=kfold)
print("评估结果:%.3f, %.3f" %(result.mean(), result.std()))
Snipaste_2018-05-16_11-19-57.png

Stratified k-fold与k-fold类似,将数据集划分成k份,不同点在于,划分的k份中,每一份内各个类别数据的比例和原始数据集中各个类别的比例相同。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容