切比雪夫不等式怎么来的？

一种证法是用马尔可夫不等式
命题1（马尔可夫不等式）：设X为只取非负值的随机变量，则对任意实数 $a>0$ , 有
$P\{X \geq a\} \leq \dfrac{E[X]}{a}$
下面首先介绍一下示性函数
对于非负取整数值的随机变量X，如果对每个 $i\geq1$ ，我们定义
$X_i = \begin{cases} 1 & X \geq i \\ 0 & X \leq i \end{cases}$
then

$\displaystyle\sum_{i=1}^\infty X_i=\displaystyle\sum_{i=1}^X X_i + \displaystyle\sum_{i=X+1}^\infty X_i =\displaystyle\sum_{i=1}^X 1 + \displaystyle\sum_{i=X+1}^\infty 0 = X$
由于 $X_i$ 都是非负的，因此

$E[X] = \displaystyle\sum_{i=1}^\infty E(X_i)= \displaystyle\sum_{i=1}^\infty P\{X \geq i\}$
上述的每个 $X_i$ 都是示性函数，有下面几个较好的性质

对于示性函数 $I$ :
$I = \begin{cases} 1 & X \geq a ， a为任意实数\\ 0 & else \end{cases}$
$E[I] = P\{X \geq a\} I \leq \dfrac{X}{a}$
所以
$E[I] \leq \dfrac{E[X]}{a} P\{X \geq a\} \leq \dfrac{E[X]}{a}$
得证

命题2（切比雪夫不等式）：设X为随机变量，具有有限均值 $\mu$ 和方差 $\sigma^2$ ，则对任意值 $k>0$ ，

$P\{|X-\mu|\geq k\} \leq \dfrac{\sigma^2}{k^2}$
证： $(X-\mu)^2$ 是非负随机变量，故由Markov不等式，令 $a = k^2$ ，得

$P\{(X-\mu)^2 \geq k^2\} \leq \dfrac{E[(X - \mu)^2]}{k^2}$
$\because (X-\mu)^2 \geq k^2 \iff |X-\mu| \geq k$
$\therefore P\{|X-\mu| \geq k\} \leq \dfrac{E[(X - \mu)^2]}{k^2} = \dfrac{\sigma^2}{k^2}$

证毕

通过这两个不等式，我们可以仅通过随机变量概率分布的均值，或者均值和方差，得到概率的界。一般地，切比雪夫不等式相对于马尔可夫不等式可以更加逼近真实的上界。