大师兄的贝叶斯网络学习笔记（五十一）：贝叶斯网络（二十五）

八、结构学习

设 $(G,\theta)$ 和 $(\overline G,\overline \theta)$ 为两个贝叶斯网络。
如果 $Q(G,\theta|\overline G,\overline\theta) \geq Q(\overline G,\overline\theta|\overline G,\overline\theta)$ ，那么

$BIC(G,\theta|D) \geq BIC(\overline G,\overline\theta|D)$

有 $BIC(G,\theta|D)=Q(G,\theta|\overline G,\overline \theta) - \sum_{l=1}^m \sum P(X_l|D_l,\overline G,\overline\theta)\log P(X_l|D_l,G,\theta)$
有 $\sum_{l=1}^m \sum P(X_l|D_l,\overline G,\overline\theta)\log P(X_l|D_l,\overline G,\overline \theta) \leq \sum_{l=1}^m \sum P(X_l|D_l,\overline G,\overline\theta)\log P(X_l|D_l,G,\theta)$ 。
所以当 $Q(G,\theta|\overline G,\overline \theta) \geq Q(\overline G,\overline\theta|\overline G,\overline\theta)$ ，公式必然成立，定理得证。
考虑SEM在运行过程中所生成的贝叶斯网络，由于 $\theta^{t,r+1}$ 的定义以及定理，有 $BIC(G^t,\theta^{t,r+1}|D) \geq BIC(G^t,\theta^{t,r}|D)$ 。
再由算法的第7行，如果算法的运行未结束，就有 $BIC(G^{t+1},\theta^{t+1,0}|D) \geq BIC(G^t,\theta^{t,R}|D)$ 。
无论是单独优化参数还是同时优化模型结构和参数，SEM所得的贝叶斯网络的BIC评分总是单调上升的。
由于BIC评分有上界，所以SEM算法一定是收敛的。
与爬山算法一样，SEM可能因为陷入局部最优或是越不过坪区而找不到全局最优。
同样，为了克服此缺点，可以考虑使用随机重复、禁忌搜索以及模拟退火等启发式搜索方法。

最后编辑于：2026.08.07 20:55:21

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成，浏览时请结合常识与多方信息审慎甄别。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。