决策树

决策树的深度：max_depth=2

  • 非参数学习
  • 可以解决分类问题、多分类问题、回归问题
  • 非常好的可解释性

计算信息熵

pruning 剪枝
分的太细的特征，减去
前、后剪枝，都是为了防止过拟合

C4.5
ID3

决策树的学习过程中分为2个阶段，分裂和剪枝

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容

  • 分类算法-决策树
    决策树理论在决策树理论中，有这样一句话，“用较少的东西，照样可以做很好的事情。越是小的决策树，越优于大的决策树”。...
    制杖灶灶阅读 5,933评论 0赞 25
  • 机器学习--决策树
    一. 决策树（decision tree）：是一种基本的分类与回归方法，此处主要讨论分类的决策树。在分类问题中，表...
    YCzhao阅读 2,193评论 0赞 2
  • 机器学习模型2 决策树-基于Python sklearn的实现
    1、模型原理 （一）原理 1、原理：引入信息熵（不确定程度）的概念，通过计算各属性下的信息增益程度（信息增益越大，...
    Python_Franklin阅读 12,429评论 0赞 17
  • ML08-决策树
    一、决策树应用体验 分类   从上面可以看出，决策树对分类具有线性回归无可比拟的优势, 如果对未参与训练的数据集是...
    杨强AT南京阅读 1,271评论 1赞 3
  • 决策树学习笔记
    决策树 1.概述 决策树由节点和有向边组成，节点有两种类型，内部节点和叶节点，内部节点表示一个特征或属性，叶节点表...
    Evermemo阅读 2,325评论 0赞 1