一、知识点介绍:
决策树方法在分类、预测、规则提取等领域有着广泛的应用。决策树是一树状结构,它的每一个叶节点对应着一个分类,非叶节点对应着在某个属相上的划分,根据样本在该属性上的不同取值将其划分成若干个子集。构造决策树的核心问题是如何在每一步选择适当的属性对样本进行划分。
本例子中采用ID3算法构建决策树模型的,在开始之前我们先来理解一下ID3算法模型的工作原理:
ID3算法基于信息熵来选择最佳测试属性。它选择当前样本集中具有最大信息增益值的属性作为测试属性;
ID3算法根据信息理论,采用样本集的不确定性作为衡量划分好坏的标准,用信息增益值度量不确定性;信息增益值越大,不确定性越小。ID3算法在每个非叶节点选择信息增益最大的属性作为测试属性,这样可以得到当前情况下最纯的拆分,从而得到决策树。
ID3算法的实现步奏:
a).计算总的信息熵。
b).计算每个测试属性的信息熵。
c).计算需要测试属性的信息增益值。
d).重复a-c步奏,针对每一个分支结点继续进行信息增益的计算,如此循环反复,直到没有新的结点分支。最终构成一颗决策树。
二、机票销售预测:
1.定义商业问题
某航空公司作为国内大型航空企业,每天要执行数以百计的航班任务,运送数万人前往目的地。对于企业的高层来讲,了解周末和非周末销量是否有大的区别,以及天气、促销活动这些因数是否影响机票销售量至关重要。因此,为了让决策者准确了解和销量有关的一系列影响因素,需要构建模型来分析天气好坏、是否是周末和是否有促销活动对销量的影响。
2.数据理解
从商业问题中我们需要收集某航空公司某一段时间内某一个出发城市的机票销售情况,以及该城市这段时间的天气情况。我们收集到的数据(示例)如下:
3.数据预处理
对于天气属性,数据源中存在多种不同的值,这里将那些属性值相近的值进行类别整合。如天气为“多云”“多云转晴”“晴”这些属性值相近,均是适宜外出的天气,不会对出行产生太大的影响,因此将它们归为一类,天气属性设置为“好”。同理,对于“雨”“小到中雨”等天气,均是不适宜出行的天气,因此将他们归为一类,天气属性设置为“坏”。
同理将周末属性设置为“是”和“否”,将促销属性设置为“是”和“否”。
机票销售数量为数值型,需要对属性进行离散化,从销售数据均值进行划分,当销售量高于均值的,销售数据设置为“高”,反之销售数据设置为“低”。
整理之后数据如下:
4.建立模型
通过Python中pandas和sklearn包中提供的ID3算法实现。套用该算法计算出影响机票销售的决策树。
核心代码如下:
#数据是类别的标签,要将类别转换为数据
#用1来表示“好”“是”“高”这三个属相,用-1来表示“坏”“否”“低”
data[data==u'好'] =1
data[data==u'是'] =1
data[data==u'高'] =1
data[data!=1] = -1
x =data.iloc[:,:3].as_matrix().astype(int)
y =data.iloc[:,3].as_matrix().astype(int)
fromsklearn.treeimportDecisionTreeClassifierasDTC
#建立决策树模型,基于信息熵
dtc = DTC(criterion='entropy')
#训练模型
dtc.fit(x,y)
5.分析评测
通过Graphviz绘图工具将输出结果转换为pdf文件。我们可以看到如下结果:
本图很专业,需要结合原始数据进行理解。
6.分析结论
最终我们分析得到如下结果:
结合本图和第5节点的图可以看到是否是周末、是否有促销和天气情况这些因数是存在多大的几率导致当天机票销售走高或走低的。