概率空间(probability space)

上一篇文章介绍了什么是测度空间(measure space)，这篇文章将在其基础上介绍概率空间以及相关的性质和推导。

一、概率测度(probability measure)

概率测度是一种特殊的测度，它将 $\sigma$ -域中的事件映射到[0,1]的区间上，二不是整个正实数集。

定义1.1 给定一个可测空间 $(\Omega,\mathcal{F})$ ，称函数 $P:\mathcal{F}\rightarrow[0,1]$ 为该空间的概率测度，若 $P$ 满足：

(1) $P(\emptyset)=0$ ；

(2) $P(\Omega)=1$ ；

(3)对于互不相交的任意事件 $A_1,A_2,\dots\in\mathcal{F}$ ，有 $P\Big(\bigcup_{i=1}^{\infty}A_i\Big)=\sum_{i=1}^{\infty}P(A_i)$

概率测度还有另外一种定义方式，用到了Kolmogorov方式，具体形式为：

定义 1.2 称函数 $P:\mathcal{F}\rightarrow[0,1]$ 为可测空间 $(\Omega,\mathcal{F})$ 上的概率测度，若 $P$ 满足：

(1) $P(\Omega)=1$ ；

(2)对于 $\forall A\in\mathcal{F}$ ，有 $P(A)\geq0$ ；

(3)对于任意不相交的事件 $A,B\in\mathcal{F}$ ，有 $P(A\cup B)=P(A)+P(B)$ ；

(4)若 $A_1\subseteq A_2\subseteq\dots\in\mathcal{F}$ 且 $A=\bigcup_{i=1}^{\infty}A_i\in\mathcal{F}$ ，那么有 $\lim_{n\to\infty}\uparrow P(A_n)=P(A)$

其中，(1)-(3)被称为有限可加概率(finitely additive probability)定理，(4)被称为连续性定理(axiom of continuity)，也被称为Kolmogorov定理。

为了直观的理解上述定义，这里可以将 $P$ 看作 $\mathcal{F}$ 中事件发生的频率。假设我们共进行 $n$ 次实验，对于 $\forall A\in\mathcal{F}$ ，记事件 $A$ 发生的次数为 $n_A$ ，那么 $P(A)$ 可以用 $\frac{n_A}{n}$ 来表示，那么对于上述的有限可加概率来说，

(1)由于每次实验总会有某一结果出现，即 $n_{\Omega}=n$ ，故 $P(\Omega)=1$ ；

(2)对于 $\forall A\in\mathcal{F}$ ，有 $n_A\geq0$ ，故 $P(A)\geq0$ ；

(3)对于不相交事件 $A,B\in\mathcal{F}$ ， $A$ 或 $B$ 发生的次数等于 $A$ 和 $B$ 分别发生的次数，即 $n_{A\cup B}=n_A+n_B$ ，故 $P(A\cup B)=P(A)+P(B)$

对于连续性定理来说，我们在实际生活中虽然很少会遇到涉及无限的问题，但是为了保证概率测度的测度属性，连续性的条件是必要的。对于连续性而言，交运算也是成立的，即：

若 $A_1\supseteq A_2\supseteq\dots\in\mathcal{F}$ ，且 $A=\bigcap_{i=1}^{\infty}A_i\in\mathcal{F}$ ，那么有 $\lim_{n\to\infty}\downarrow P(A_n)=P(A)$

证明：考虑补集 $A_1^c\subseteq A_2^c\subseteq\dots\in\mathcal{F}$ ，那么 $A^c=\Big(\bigcap_{i=1}^{\infty}A_i\Big)^c=\bigcup_{i=1}^{\infty}A_i^c\in\mathcal{F}$

由定义，有 $\lim_{n\to\infty}\uparrow P(A_n^c)=P(A^c)$

$\implies1-\lim_{n\to\infty}\uparrow P(A_n^c)=1-P(A^c)$

$\implies\ \ \ \ \ \ \lim_{n\to\infty}\downarrow P(A_n)=P(A)$ $\square$

上面共给出了概率测度的两种定义，下面将证明这两种定义是等价的。

证明： 定义1.1 $\implies$ 定义1.2

对于不相交的 $\forall A,B\in\mathcal{F}$ ，令 $A_1=A,A_2=B,A_i=\emptyset,\forall i>2$ ，

则 $A_i$ 互不相交，且 $\bigcup_{i=1}^{\infty}Ai=A\cup B$ ；又由 $P(\emptyset)=P(\Omega^c)=1-P(\Omega)=0$

可得 $P(A\cup B)=P\Big(\bigcup_{i=1}^{\infty}A_i\Big)=P(A)+P(B)+\sum_{i=3}^{\infty}P(\emptyset)=P(A)+P(B)$

若存在序列 $A_1\subseteq A_2\subseteq\dots\in\mathcal{F}$ ，且 $A=\bigcup_{i=1}^{\infty}Ai\in\mathcal{F}$

令 $A_1^*=A_1,A_i^*=A_i-A_{i-1},\forall i\geq2$

则 $A_i^*$ 互不相交，且 $A=\bigcup_{i=1}^{\infty}A_i=\bigcup_{i=1}^{\infty}A_i^*$

根据定义，有 $P(A)=P\Big(\bigcup_{i=1}^{\infty}A_i^*\Big)=\sum_{i=1}^{\infty}P(A_i^*)$

对于 $\forall i\geq2,P(A_i)=P(A_{i-1})+P(A_i^*)=P\Big(\bigcup_{j=1}^{i}A_j^*\Big)$

即 $P(A_i)$ 单增且收敛于 $P\Big(\bigcup_{i=1}^{\infty}A_i^*\Big)=P(A)$ ，即 $P(A)=\lim_{n\to\infty}\uparrow P(A_n)$

定义1.2 $\implies$ 定义1.1

若存在互不相交的序列 $A_1,A_2,\dots\in\mathcal{F}$ ，且 $A=\bigcup_{i=1}^{\infty}A_i\in\mathcal{F}$

记 $A_i^*=\bigcup_{j=1}^iA_i$ ，则 $A_1^*\subseteq A_2^*\subseteq\dots\in\mathcal{F}$ ，且 $\bigcup_{i=1}^{\infty}A_i^*=\bigcup_{i=1}^{\infty}A_i=A$

故 $\lim_{n\to\infty}\uparrow P(A_n^*)=P(A)=P\Big(\bigcup_{i=1}^{\infty}A_i\Big)=\lim_{n\to\infty}P\Big(\bigcup_{i=1}^nA_i\Big)$

对于有限的 $n$ 来说，有 $P\Big(\bigcup_{i=1}^nA_i\Big)=\sum_{i=1}^nP(A_i)$

所以有 $P\Big(\bigcup_{i=1}^{\infty}A_i\Big)=\lim_{n\to\infty}P\Big(\bigcup_{i=1}^nA_i\Big)=\lim_{n\to\infty}\sum_{i=1}^nP(A_i)=\sum_{i=1}^{\infty}P(A_i)$ $\square$

二、概率空间(probability space)

定义2.1 称三元组 $(\Omega,\mathcal{F},P)$ 为概率空间，如果 $(\Omega,\mathcal{F})$ 是一个测度空间，且 $P$ 为定义在该空间上的概率测度。