比较检验

机器学习中性能比较很复杂,没有想象的那么简单:

1.希望比较的是泛化性能,但得到的是测试性能

2.测试集上的性能跟测试集的选择很有大关系

3.机器学习有一定的随机性


假设检验:

“假设”是对学习器泛化错误率分布的某种判断或猜想,可根据测试错误率估推出泛化错误率的分布

误分类样本数符合二项分布,当泛化错误率=样本错误率时,概率最大


二项检验: 

在1-a的概率内所能观测到的最大错误率, a的取值一般是0.05或0.1

1-a反映了结论的“置信度”, a为显著度

ε0 = max ε s.t. ε^i*(1-ε)^(m-i) <a

若测试错误率ε<ε0,则得出结论: 在 a 的显著度下 ,或1-a的置信度下, ε<=ε0不能被拒绝


交叉验证t检测

McNemar检验

Friedman检验与Nemenyi后续检验

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 《多元统计分析与SPSS应用》笔记 文章结构 单一样本均值检验 只对单一变量的均值加以检验,用于检验样本所在总体的...
    辛辛辛烷阅读 38,946评论 3 21
  • 201. M-Q型显影液组合是()。 (2.0 分) A. 米吐尔与菲尼酮的组合 B. 对苯二酚和菲尼酮的组合 C...
    我们村我最帅阅读 9,115评论 0 4
  • 1. 关于诊断X线机准直器的作用,错误的是()。 (6.0 分) A. 显示照射野 B. 显示中心线 C. 屏蔽多...
    我们村我最帅阅读 13,690评论 0 5
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 174,922评论 25 709
  • 今天是5月20日,人们所钟爱的520,大街小巷的520打折活动,淘宝唯品更是520折上折。情侣们520表白,朋友圈...
    陌上桑兰阅读 1,495评论 0 1