指数分布、泊松分布、几何分布的联系

我自己课下复习概率论的时候，发现了一些结论

1.我发现好像「无记忆性」与「伯努利试验」能构成充要条件

也就是说，只要有 $n$ 次0/1试验，设随机变量 $X$ 是第一次发生事件 $A$ 时已完成的试验数。只要满足
$P(X > m | X > n) = P( X > m - n) , m > n$ 那么这 $n$ 次试验必然是伯努利试验。

必要性的证明，即已知伯努利试验，推无记忆性，课本已经给出。
下面证明充分性。

设第一次0/1试验出现事件 $A$ 的概率为 $p_1$ ，令 $m - n = 1$ ，则有 $P(X > n + 1| X > n) = P(X > 1)$ 所以 $\frac{P(X > n + 1)}{P(X > n)} = 1 - P(X \leq 1)$ 所以 $\frac{1 - P(X \leq n + 1)}{1 - P(X \leq{n})} = 1 - P(X \leq 1)$
设X的分布函数为 $F(x)$ ，则有
$\frac{1 - F(n + 1) }{ 1 - F(n) } = 1 - F(1)$
移项，化简得 $F(n + 1) = (1 - p_1)F(n) + p_1$
考虑第 $n + 1$ 项，有 $F(n + 2) = (1 - p_1)F(n + 1) + p_1$
两式相减得 $F(n + 2) - F(n + 1) = (1 - p_1)(F(n + 1) - F(n))$
记 $G(n) = F(n + 1) - F(n)$ ，得 $G(n + 1) = (1 - p_1)G(n)$
因为 $G(1) = F(2) - F(1) = (1 - p_1)p_1 + p_1 - p_1 = (1 - p_1)p_1$ ,所以 $G(n) = F(n + 1) - F(n) = p_1(1 - p_1)^n$
累加可得 $F(n) = 1 - (1 - p)^n$
因此 $P(X = k) = F(k) - F(k - 1) = G(k - 1) = p_1(1 - p_1)^{k-1}$
并且容易证明，对于每一次0/1试验，其出现事件 $A$ 的概率 $p_n$ 相等，因此该实验为伯努利试验。证毕。

2. 在证明了上述充要条件后，我联想到了指数分布。由于指数分布满足「无记忆性」，因此我尝试通过该条件，从零推导指数分布的分布函数。

首先建立一个模型。考虑时间轴 $[0, T]$ ，在每个时间点上都有概率发生事件 $A$ 。设随机变量 $X$ 是第一次发生事件 $A$ 时已经过的时间。我们假设这个时间满足「无记忆性」，这类似于等公交车，无论你什么时候到车站等，等待时间一般可以认为其期望是固定的。那么类似地，就有
$P(X > m | X > n) = P( X > m - n) , m > n$
设 $m - n = \Delta t$ ，设 $n = t$ ，则有
$\frac{ P(X > t + \Delta t) }{ P(X > t) } = 1 - P(X \leq \Delta t)$
设分布函数为 $F(t)$ ，则有 $\frac{ 1 - F(t + \Delta t)} {1 - F(t) } = 1 - F(\Delta t)$
为了方便，引入函数 $G(t) = 1 - F(t)$ ，则有
$\frac{ G(t + \Delta t)}{ G(t) } = G(\Delta t)$
变形，两边同除 $\Delta t$ 得 $\frac{G(t + \Delta t) - G(t) + G(t)}{G(t)\Delta t} = \frac{G(\Delta t) }{\Delta t}$
即 $\frac{G(t + \Delta t) - G(t)}{G(t)\Delta t} = -\frac{F(\Delta t) }{\Delta t}$
令 $\Delta t \to 0$ ，则有
$\frac{G'(t)}{G(t)} = -F'(0) = -f(0) = c$
因此构造了一个微分方程 $G'(t) - c \cdot G(t) = 0$ 解之得
$G(t) = 1 - Ae^{ct}$ 即
$F(t) = 1 + Ae^{ct}， f(t) = cAe^{ct}$
而 $f(0) = cA = -c$ ，因此 $A = -1$ ，因此
$F(t) = 1 - e^{ct}$
根据课堂上所讲拓展内容可知，实质上 $c = -\lambda = -np$ 。因此，指数分布可以看作是一种在满足 $\lambda = np$ 的情况下，取无穷大 $n$ ，无限小 $p$ （类似于泊松分布的推导）的伯努利试验，可以看作是一种连续情况下的几何分布。继而也容易了解，指数分布与泊松分布之间的联系。