大师兄的贝叶斯网络学习笔记(十六):图分割与变量独立(三)
大师兄的贝叶斯网络学习笔记(十八):贝叶斯网络与概率推理(一)
四、有向无环图与联合概率分布
- 设V为一个随机变量的集合,P是V的一个联合概率分布,G是以V中变量为记号的一个有向无环图。
- 设X,Y,Z为V的3个亮亮交空的子集合,引入如下两个记号:
:表示在P中,给定Z,X,与Y相互条件独立;
:表示在G中,Z D-分隔X和Y。
- 利用有向无环图G,可以定义如下3个关于联合概率分布P的性质:
- P是G可分解的,如果存在一个以G为结构的贝叶斯网络,它所表示的联合概率分布正好是P;
- P具有整体G-马尔可夫性,如果
,即G中的d-分隔意味着P中的条件独立。
- P具有局部G-马尔可夫性,如果对于G中任何一点X,
,即在P中,X在给定他在G中的父节点时,条件独立于它在G中的所有非后代节点。
- 定理:假设P为一个变量集合V的联合概率分布,G为定义于V上的一个有向无环图,则以下3个陈述是等价的:
- P是G可分解的;
- P具有整体G马尔可夫性;
- P具有局部G马尔可夫性。
- 相对于联合分布P,可以定义如下两个关于有向无环图G的性质:
- G是P的独立图(independence map),简称I-map,如果
;
- G是P的依赖图(dependence map),简称D-map,如果
。
- 若G即是P的独立图,也是P的依赖图,则称它是P的完美图(perfect map),简称P-map。
- 独立图表示P中的独立关系,依赖图表示P中的依赖关系。
- 独立图所蕴含的条件独立关系是P中所有条件独立关系关系的一个子集,而后者优势依赖图中所蕴含的条件独立关系的一个子集。
- 因此,在独立图中加一条边,所得到的仍然是独立图。
- 类似的,在依赖图中去掉一条边,所得到的仍然是依赖图。
- 一个独立图被称为是最小独立图(minimal I-map),如果去掉其中的一条边后他不再是独立图。