本文结论

知识点1： 无向图条件独立性体现在全局马尔可夫性、局部马尔可夫性和成对马尔可夫性三个方面。并且三个方面是相互存在，即其中任一个成立均可推出另外两个成立；

知识点2： 概率图的条件独立性和概率图的因子分解不是相互独立的，因子分解式是可以推导出概率图的条件独立性假设；

知识点3： 无向图的因子分解比有向图因子分解要复杂，有向图根据拓扑结构可直接写出因子分解式，而无向图中引入了最大团的改进进行因子分解。

正文内容

无向图模型的条件独立性体现在以下三个方面：

1、全局马尔可夫性：

如下图所示，无向图的条件独立性很简单，如果在给定集合 $X_B$ 情况下，集合 $X_A$ 和 $X_C$ 相互独立，则必须满足如下条件：节点a属于集合 $X_A$ ，节点c属于集合 $X_C$ ，若存在节点b和节点a和c之间均连接，则节点b必须存在于集合 $X_B$ 中。

2、局部马尔可夫性：

如下图所示，局部马尔可夫性是指节点a在给定邻居节点b,c,d情况下和非邻居节点是相互独立的。

3、成对马尔可夫性：

注意： 全局马尔可夫性，局部马尔可夫性和成对马尔可夫性之间是相互依存的，即其中一个成立可推导出另外两个也是成立的。

有向图的因子分解根究图的拓扑结构很容易写出因子分解式，但无向图因子分解较复杂，无论是有向图或无向图，因子分解必须要体现图的条件独立性，因子分解和图的条件独立性是等价的。

为了解决无向图因子分解，先引入团和最大团的概念。团是指无向图中节点的集合，且节点之间都是相通的，最大团是指团中再多加入一个节点所有节点就不是相通的，即无向图中最大团的概念。

下面先直接给出基于最大团的无向图因子分解的公式：

其中 $x{c_i}$ 既是值团 $c_i$ 对应图中的节点集合， $\phi$ 函数是势函数， $\phi(x{c_i})=exp({-E(x{c_i})})$ ，必须为正， $E(x{c_i})$ 表示能量函数，而 $Z$ 是归一化因子，计算方式如下：

可以通过Hammesley-Clifford定理证明上述的因子分解方式是可以推导出无向图的条件独立性，从侧面说明基于最大团的无向图分解的合理性。

总结： 有向图的因子分解，条件独立性；无向图的因子分解，条件独立性。

参考视频资料：【机器学习】【白板推导系列】作者：shuhuai008
参考书籍资料：Pattern Recognition and Machine Learning 作者：Christopher Bishop