深入决策树算法

系统讲解了DT 算法理论


  主要内容：


          1、决策树算法

          2、Entroy

          3、Information Gain


例图

DT 一般都是非线性分界面


sklearn 运行效果图



参数的作用

min_samples_split

一直区分到集合只有两个元素，可以忽略

min_samples_split 太小导致overfitting


Entropy



数学推倒






Information Gain

信息增益，，主要用来算多个feature时使用哪个feature 来分割界面





DT算法的计算核心一般是计算各个feature 的information gain 决定采用哪个feature 分割平面以及怎样分割。


DT 算法的优缺点：

easy use

图形化比较直观

容易overfiting


人工智能技术文章list

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容

  • Machine Learning in Python (Scikit-learn)转人人
    Machine Learning in Python (Scikit-learn)-(No.1) 作者:范淼（人人...
    hzyido阅读 11,401评论 2赞 13
  • 结果真的比过程更重要
    昨天分享了每天三件事这个工具，也说说我在使用时的困惑。 三件事不好写:太难的事可能不好完成，容易拖延。拖延两次，内...
    Panda盼子阅读 2,415评论 1赞 0
  • 叶恋
    他们相邻而居，她在他的高处。 他们相识在万般美好的初春，一见，如故。 于是，每个清晨，她都会在一片婆娑如织中寻找他...
    零碎的片段阅读 2,726评论 1赞 2
  • 你说
    我是谁 我在哪 渐渐入睡 游于蓝色 睡在绿色 翱往白色 你笑了 然后你醒了 对她说 你好 我在梦里 其实 你喜欢她
    冬沐槿阅读 1,293评论 0赞 2
  • 我只是花自己的钱买自己喜欢的东西
    本文图片源自百度 今日去广州办事回来便去了美利达专卖店买了一台山地车2300RMB，然后发了条朋友圈，收到的回复让...
    三米GZ阅读 4,474评论 0赞 0