时间：2018-09-11 作者：魏文应
一、数学期望
平均值 我们给一个文艺一点的名字，把平均值叫做 数学期望。随机变量 
的数学期望，记为 )
：
%20%3D%20%5Csum_%7Bk%20%3D%201%7D%5E%7B%5Cinfty%7D%7Bx_k%20p_k%7D)
其中 
是发生 
时的概率。如果 是连续型随机变量，那么可以表示成定积分的样子：
%20%3D%20%5Cint_%7B-%5Cinfty%7D%5E%7B%5Cinfty%7D%20f(x)%20%5Cmathrm%7Bd%7Dx)
数学期望有以下几个重要 性质（详细推理参考课本）：
- 设
是常数，则有 %20%3D%20C)
。
- 设 是一个随机变量， 是常数，则有：
%20%3D%20C%20E(X))
- 设 、
是两个随机变量，则有：
%20%3D%20E(X)%20%2B%20E(Y))
- 设 、 是两个 相互独立 的随机变量，则有：
%20%3D%20E(X)E(Y))
二、方差
你每天吃午饭的时间，大约是12点，也就是平均值为 %20%3D%2012)
。但你每天吃饭肯定不是准点的12点，而是和12点有点偏差。求这个偏差的平均值：
%7C%20%5C%7D%20%3D%20%5Cfrac%7B1%7D%7BN%7D%20%5Csum_%7Bk%20%3D%201%7D%5E%7BN%7D(%20%7Cx_k-12%7C%20))
上面绝对值运算不方便，我们把它变成平方的形式：
![E\{ [ X - E(X) ]^2 \}](https://math.jianshu.com/math?formula=E%5C%7B%20%5B%20X%20-%20E(X)%20%5D%5E2%20%5C%7D)
这个就是 的方差，主要用来描述随机变量 与平均值 的偏离程度。把它记为下面的形式：
![D(X) = E\{ [ X - E(X) ]^2 \}](https://math.jianshu.com/math?formula=D(X)%20%3D%20E%5C%7B%20%5B%20X%20-%20E(X)%20%5D%5E2%20%5C%7D)
把方差进行开方运算得到 %7D)
，记为 %7D)
称为 标准差 或者 均方差 。离散型变量的方差可以这么计算：
![D(X) = \sum_{k=1}^{\infty}[x_k - E(X)]^2 p_k](https://math.jianshu.com/math?formula=D(X)%20%3D%20%5Csum_%7Bk%3D1%7D%5E%7B%5Cinfty%7D%5Bx_k%20-%20E(X)%5D%5E2%20p_k)
连续型变量可以这么计算：
![D(X) = \int_{-\infty}^{\infty} [x_k - E(X) ]f(x)\mathrm{d}x](https://math.jianshu.com/math?formula=D(X)%20%3D%20%5Cint_%7B-%5Cinfty%7D%5E%7B%5Cinfty%7D%20%5Bx_k%20-%20E(X)%20%5Df(x)%5Cmathrm%7Bd%7Dx)
当然，方差可以变换，用下面公式计算比较方便：
![D(X) = E\{ [X - E(X)]^2 \} = E(X^2) - [E(X)]^2](https://math.jianshu.com/math?formula=D(X)%20%3D%20E%5C%7B%20%5BX%20-%20E(X)%5D%5E2%20%5C%7D%20%3D%20E(X%5E2)%20-%20%5BE(X)%5D%5E2)
上面公式的意思，就是对 
求平均值，减去 平均值的平方，就得到了方差 )
。方差有几个 重要的性质：
- 设 是常数，则
%20%3D%200)
。
- 设 是随机变量， 是常数， 则有：
%20%3D%20C%5E2%20D(X))
%20%3D%20D(X))
- 设 、 是两个随机变量，则有：
%3D%20D(X)%20%2B%20D(Y)%20%2B%202E%20%5C%7B%20(X-E(X))%20(Y%20-%20E(Y))%20%5C%7D)
当 、 相互独立 时，则有：
%3D%20D(X)%20%2B%20D(Y))
-
%20%3D%200)
的 充要条件 是 以概率 1 取常数 ，即：
%5C%7D%20%3D%201)
三、协方差
根据方差的性质，当 、 相互独立时：
)%20(Y%20-%20E(Y))%20%5C%7D%20%3D%202%20%5C%7B%20E(XY)%20-%20E(X)E(Y)%20%5C%7D%20%3D%200)
如果 、 不是相互独立，这就意味着 ![E \{ [X - E(X)] [Y - E(Y)] \} \neq 0](https://math.jianshu.com/math?formula=E%20%5C%7B%20%5BX%20-%20E(X)%5D%20%5BY%20-%20E(Y)%5D%20%5C%7D%20%5Cneq%200)
，我们把这个量 ![E \{ [X - E(X)] [Y - E(Y)] \}](https://math.jianshu.com/math?formula=E%20%5C%7B%20%5BX%20-%20E(X)%5D%20%5BY%20-%20E(Y)%5D%20%5C%7D)
称为 和 的 协方差，记作 )
，即：
![Cov(X,Y) = E \{ [X - E(X)] [Y - E(Y)] \}](https://math.jianshu.com/math?formula=Cov(X%2CY)%20%3D%20E%20%5C%7B%20%5BX%20-%20E(X)%5D%20%5BY%20-%20E(Y)%5D%20%5C%7D)
而下面的 
称为随机变量 、 的 相关系数：
%7D%7B%5Csqrt%7BD(X)%7D%20%5Csqrt%7BD(Y)%7D%20%7D)
协方差进行变换以后，可以用下面式子进行 计算 ：
![Cov(X,Y) = E \{ [X - E(X)] [Y - E(Y)] \} = E(XY) - E(X)E(Y)](https://math.jianshu.com/math?formula=Cov(X%2CY)%20%3D%20E%20%5C%7B%20%5BX%20-%20E(X)%5D%20%5BY%20-%20E(Y)%5D%20%5C%7D%20%3D%20E(XY)%20-%20E(X)E(Y))
协方差的相关系数是用来 描述两个变量之间相关性的，
说明两个变量、 之间没有关系，
比较小，说明相关性比较低， 比较大，说明相关性比较高 。
参考文献
