[R - ml] 分类

OneR 单条规则

利用One R 规则 对mushroom 分类

数据准备

首先下载mushroom 数据

library(utils)
mushrooms = read.csv('E:/rpath/mushroom.data', stringsAsFactors = TRUE, header = F)
str(mushrooms)
names(mushrooms) = c('type','cap_shape','cap_surface','cap_color','bruises','odor','gill_attachment','gill_spacing','gill_size','gill_color','stalk_shape','stalk_root','stalk_surface_above_ring','stalk_surface_below_ring','stalk_color_above_ring','stalk_color_below_ring','veil_type','veil_color','ring_number','ring_type','spore_print_color','population','habitat')
summary(mushrooms)
mushrooms$veil_type = NULL # 只有一种值, 直接把这个变量去掉
table(mushrooms$type)
install.packages('RWeka', dependencies = T)
require(RWeka)
mushroom_lR = OneR(type ~ . , data = mushrooms)
mushroom_lR

这里只用了一条rule,即odor,分别对应的含义为
almond=a,anise=l,creosote=c,fishy=y,foul=f,musty=m,none=n,pungent=p,spicy=s

OneR 的说明:

m = OneR(class~predictors, data = mydata)
p = predict(m, test)

模型的结果

summary(mushroom_lR)

98.5% 正确分类, confusion matrix 里面列为实际值, 行为预测值。
因为120个本来无毒的蘑菇样本呗分类为有毒,而没有任何有毒的蘑菇被分类为无毒。

模型改进

前面我们使用的是OneR, 那么可以考虑更复杂一点的算法, 比如RIPPER
这里利用Rweka里面的JRip().

Repeated Incremental Pruning to Produce Error Reduction (RIPPER),

mushroom_JRip = JRip(type~. , data = mushrooms)
mushroom_JRip

JRip 使用了多条规则,比如如果odor = f 那么有毒, gill_size = n 并且 gill_colol = b 那么有毒。。
显然JRip 完美完成了对蘑菇的分类4208个样本没有一个错误。

注意前面我们把所有的数据都用作训练数据集,显然不对,还是老办法
用createDataPartition 去 80% 为训练数据

require(caret)
set.seed(2014)
inTrain = createDataPartition(y = mushrooms$type, p = 0.8, list = FALSE)
mushroom_train = mushrooms[inTrain, ]
mushroom_test = mushrooms[-inTrain, ]
prop.table(table(mushroom_train$type))
prop.table(table(mushroom_test$type))

mushroom_JRip = JRip(type~. , data = mushroom_train)
mushroom_predict = predict(mushroom_JRip, mushroom_test)
require(gmodels)
CrossTable(mushroom_test$type, mushroom_predict)
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 决策树理论在决策树理论中,有这样一句话,“用较少的东西,照样可以做很好的事情。越是小的决策树,越优于大的决策树”。...
    制杖灶灶阅读 5,939评论 0 25
  • 平常心去自救。
    蛾子时述之阅读 113评论 0 0
  • 昨天晚上去一家地方特色的小店吃饭,正吃得津津有味的时候,却被一声怒喝吓得一激灵。回头一看,身高1米9的彪形大汉一边...
    香草珠儿阅读 764评论 2 9
  • ——《愿有人陪你颠沛流离》 有人喜欢你,有人讨厌你,有人给你贴上标签,有人对你嗤之以鼻,以前碰到摩擦一定会反驳,如...
    鱼丸肉丸傻傻分不清阅读 267评论 0 0