大师兄的贝叶斯网络学习笔记（五十六）：贝叶斯网络（三十）
大师兄的贝叶斯网络学习笔记（五十八）：贝叶斯网络（三十二）
九、隐结构模型学习
4. 隐类模型
4.4 仿真实验
- 用BICe评分和CS评分来指导隐类模型的学习效果如何。为了回答这个问题，可以进行一些仿真实验。
- 首先随机产生隐类模型，从中抽取得到关于显变量的数据；
- 然后从这些数据出发，基于不同的评分函数，利用算法LearnLCM-HC获得隐类模型；
- 最后比较原生模型中隐变量的势与学习结果中隐变量的势。
- 实验一共选用了100个原生模型：
- 每个模型中显变量的个数在3与10之间
- 显变量的势在2与5之间
- 隐蔽变量的势在2与10之间。
- 原生模型要求是正则的，否则首先将其正则化。
- 实验考虑了4个不同的样本量，即500，1000,5000和10000.
- 作为比较对象，实验还涉及了另外2个评分函数，即BIC评分和AIC评分。
- 实验结果用散点图(scatter plot)来总结。
- 图中的每一点代表一次实验：
- 它的横坐标表示原生模型中隐变量的势，简称为真实势；
- 而它的纵坐标表示学习结果中隐变量的势，简称为估计势。
- 不同次实验可能对应同一个点。
- 一个点旁边的数字是与该点对应的实验的总数。
- 对每一评分函数和样本量的组合，有一个散点图，于是共有16幅，这些图按样本量被分为4组。
样本量为500时算法LearnLCM-HC使用各评分函数的学习结果
样本量为1000时算法LearnLCM-HC使用各评分函数的学习结果
样本量为5000时算法LearnLCM-HC使用各评分函数的学习结果
样本量为10000时算法LearnLCM-HC使用各评分函数的学习结果
- 实验结果表明，利用BIC和BICe所得的结果几乎完全一样，它们与利用CS所得的结果基本一致。
- 所以，就隐类模型学习而言，BIC,BICe和CS之间没有明显区别。
- 这与Chickering和Heckerman(1997)的结论不同，主要原因是实验所涉及的样本量和显变量个数不同。
- 他们的实验涉及的样本量是50、100、200和400，涉及的显变量个数是32,64和128。
- 学些得到的隐变量的势是对原生模型中隐变量的真实势的估计。
- 利用BIC、BICe和CS所得的估计是保守的，估计势不大于真实势。
- 随着样本量的增加，估计势与真实势相等的次数越来越多，这表明估计质量越来越好。
- 另一方面，利用AIC所得的估计不是保守的：估计势既有大于真实势的时候，也有小于真实势的时候，且当样本量增加时，估计质量无明显改进。
