TASK5 模型融合

模型融合是kaggle等比赛中经常使用到的一个利器,它通常可以在各种不同的机器学习任务中使结果获得提升。顾名思义,模型融合就是综合考虑不同模型的情况,并将它们的结果融合到一起。模型融合主要通过几部分来实现:从提交结果文件中融合、stacking和blending。当下模型融合主要有三类

1. 简单加权融合:

-回归(分类概率):算术平均融合(Arithmetic mean),几何平均融合(Geometric mean);

- 分类:投票(Voting)

- 综合:排序融合(Rank averaging),log融合

2. stacking/blending:

- 构建多层模型,并利用预测结果再拟合预测。

3. boosting/bagging(在xgboost,Adaboost,GBDT中已经用到):

- 多树的提升方法

多行代码(```

input

```)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 内容介绍模型融合是比赛后期一个重要的环节,大体来说有如下的类型方式。 简单加权融合: 回归(分类概率):算术平均融...
    100MHz阅读 246评论 0 0
  • 在本案例中使用的是Stacking融合方法,简单来说 stacking 就是当用初始训练数据学习出若干个基学习器后...
    MackXu阅读 380评论 0 0
  • Datawhale 零基础入门数据挖掘-Task5 模型融合 融合是提分和提升模型鲁棒性的一种重要方法,主要有: ...
    YAN_DUDU阅读 158评论 0 0
  • 一、模型融合的方式主要是有三种:1.bagging (随机森林模型是基于bagging融合的代表)2.boosti...
    蔓藤树下的甜蜜阅读 2,396评论 0 2
  • 简单加权融合 对于一个给定的网络结构,每一种不同的权重组合将得到不同的模型。因为所有模型结构都有无限多种权重组合,...
    SKIIoooJyl阅读 958评论 0 0

友情链接更多精彩内容