大师兄的贝叶斯网络学习笔记（十二）：贝叶斯网络（七）
大师兄的贝叶斯网络学习笔记（十四）：图分割与变量独立（二）
- 贝叶斯网络是概率与图论相结合的产物。
- 在一个贝叶斯网络中，一方面可以从概率论的角度谈论变量之间的依赖与独立，另一方面也可以从图论的角度讨论节点之间的连同与分隔。
一、直观分析
- 在贝叶斯网络中，两个变量X和Y如果直接相连，则表示它们之间有直接依赖关系，对X的了解会影响关于Y的信度，反之亦然，在这种意义下，称信息能够在两个直接相连的节点之间传递。
- 另一方面，如果X和Y不是直接相连，那么信息需要通过其它变量才能在两者之间传递。
- 如果X和Y之间所有的信息通道都被阻塞(block)，那么信息就无法在它们之间传递。
- 这时，对其中一个变量的了解不会影响对另一个变量的信度，因而X和Y相互条件独立。
- 在以下情况下X和Y之间的所有信息通道都被阻塞：
1. 基本情况
-
考虑两个变量X和Y通过第3个变量Z间接相连这一基本情况，它又分为3个子情况：顺连、分连和汇连
1.1 顺连
- 顺连（serial connection）结构如图(a)所示，这里若Z未知，则对X的了解会影响关于Z的信度，进而影响关于Y的信度，反之依然。
- 所以，此时信息可以在X和Y之间传递，他们相互关联。
- 另一方面，如果Z的取值已知，则对X的了解就不会影响Z的信度，从而也不会影响Y的信度。
- 同样，对Y的了解也不会通过Z影响关于X的信度。
- 所以，此时X和Y之间的信息通道被阻塞，信息无法再两者之间传递，X和Y相互条件独立。
- 假设存在一个盗窃(B) 到警铃响（A）再到Mary打电话（M）的顺连结构：B->A->M。
- 若不知道A的状态，接到电话会增加对警铃响了的信度，从而增加对发生了盗窃的信度。
- 反之，若被告知发生了盗窃，则也会增加对Mary打了电话的信度。
- 另一方面，如果早上出门特意关闭了了警铃，则知道发生了盗窃不会对影响警铃响了的信度，所以不会进而增加对Mary打了电话的信度。
- 所以当A未知时，B和M相互关联，而已知A时，B和M相互条件独立。
1.2 分连
- 分连(diverging connection)结构如图(b)所示，他与顺连的情况相似：当未知Z时，信息可以在X和Y之间传递，他们相互关联；当Z已知时，信息不能在X和Y之间传递，因为他们相互条件独立。
- 警铃响(A)后，Mary（M）和John(J)都可能打电话，所以有分连结构M<-A->J。
- 若接到Mary电话，则对“警铃响了”的信度会怎增大，从而也会进一步期望John的电话，反之亦然。
- 但如果事先知道警铃已被关掉，就不会做出这样的推断，即已知A后，M和J条件独立。
1.3 汇连
- 汇联结构如图(c)所示。这种情况需要特别注意，在结构上，它与分连恰恰相反。
- 分连代表一因多果的情况，而汇连则代表多因一果。
- 在信息通道性质方面，他也与分连相反：在未知Z时，X和Y相互独立；而在已知Z时，X和Y却相互关联。
- 盗窃（B）和地震（E）都会触发警铃（A），从而有汇连结构：E->A<-B
- 在A未知时，B和E相互独立，得知发生了地震不会改变对发生了盗窃的信度，反之依然。
- 但如果知道警铃已响，B和E却相互关联：若得知发生了地震，警铃响就有了合理的解释，从而发生了盗窃的信度会降低。
- 这种同一结果的多个解释之间此消彼长的现象称为得释（explain away）。
- 汇连的信息通道性质可以理解如下：当Z未知时，源自X（或Y）的信息会从Z漏掉，从而无法到达Y（或X）；
- 当Z已知时，漏洞被堵上，从而信息可以在X和Y之间传递。
