大师兄的贝叶斯网络学习笔记（二）：贝叶斯网络基础（二）

一、概率论基础

1. 随机事件与随机变量

1.1 样本空间和事件

• 在概率论中，随机试验指的是事先不能完全预知其结果的试验，随机实验的所有结果组成该实验的样本空间，通常记作。
• 样本空间可以是离散的，也可以是连续的，本文提到的样本空间都是离散的。
• 样本空间中的点，即随机试验的可能结果，称为样本点（或原子事件），记为。
• 样本空间的子集称为事件，通常用大写字母表示：
• 如果随机实验的结果包含在一个事件之中，则称该事件发生了。
• 样本空间本身也是一个事件，而且是一个一定会发生的必然事件。
• 空集也是一个事件，是不可能事件，通常记作。
• 事件之间可以进行交、并、差\等各种几何运算。
• 若两事件A和B交空，即，则称为互斥事件，两互斥时间不能同时发生。
• 若A和B互斥，即，则称他们为互补事件。

1.2 概率测度

• 概率测度给样本空间中的每一事件A赋予一个数值，以度量该事件发生的可能性。
• 在数学上，它是一个从样本空间 的幂集到区间且满足以下三个Kolmogorov公理：

• ;
• 
• 

• 称为事件的概率，上面3个公理分别被称为概率测度的规范性、非负性和有线可加性。

• 规范性规定必然事件的概率为1;
• 非负性规定概率不能为负;
• 有限可加性规定互斥事件的并集的概率等于他们各自概率的和。

1.3 随机变量

• 随机变量是定义在样本空间上的函数，通常用大写字母表示，如。
• 随机变量的取值随实验的结果而定，通常用小写字母表示，如。
• 随机变量X的所有可能取值的集合，称为它的值域，也称状态空间，记为。
• 随机变量可以是离散的，也可以是连续的。
• 离散随机变量的状态空间是离散的，包含有限个或无穷可数个状态。
• 连续随机变量的状态空间是连续的，包含无穷不可数个状态。

1.4 概率函数

• 设为一随机变量，是它的一个取值。
• 在样本空间中，所有使的原子事件组成一个事件，记之为，有时也简记为。
• 事件的概率依赖于X的取值x。
• 让上变动，的函数，称之为随机变量的概率质量函数，记为。
• 根据概率测度的定义，有。