模型融合大致有以下几类：

by Freepic on Flaticon

1. 投票法（voting）

最早有两种集合方法：均值法和投票法。投票法是解决多值输出的问题时最常用的基本方法。投票法又分为：绝对多数投票法，相对多数投票法，加权投票法和软投票法。

绝对多数投票法Python实例

2. Bagging

Bagging经常采用的是同质的weak learners， models之间是相互独立的平行状态。相对比，Boosting的models间是串行状态。Bagging主要为了生成一个更小的方差的集成模型。

3. Boosting

boosting, 通常是使用同质的弱学习器，用一种适应性的方式进行串行地学习并用确定性的策略将其结合起来。

3.1. AdaBoost

AdaBoost是Boosting算法中的比较经典算法中的一种。其步骤为先对每个样本赋予相同的初始权重，每一轮学习器训练过后都会根据其表现对每个样本的权重进行调整，增加分错样本的权重，按这样的过程重复训练出M个学习器，最后进行加权组合。

from https://www.python-course.eu/Boosting.ph