(概率论基础5)切比雪夫不等式与三大定律

切比雪夫不等式

设随机变量 $X$ 具有数学期望 $E(X)=\mu$ ，方差 $D(X)=\sigma$ ，则有对于任意的整数 $\epsilon$ ，下列不等式成立：
$P\{ |X-\mu| \geq \epsilon\} \leq \frac{\sigma^2}{\epsilon^2} \tag{1.1}$

应用场景：在随机变量的分布未知，只知道 $E(X)$ 和 $D(X)$ 的情况下，用于估计概率 $P\left \{|X-E|<\epsilon \right \}$ 的界限。

大数定理

直观理解

“由频率收敛于概率”引申而来。设做了 $n$ 次独立试验后，每次观察某时间A是否发生，定义随机变量 $X_i, i=1,2,..., n$ ，在这 $n$ 次试验试验中，事件 $A$ 一共出现了 $X_1+X_2+X_3+...+X_n$ 次，则频率为：
$p_n = (X_1+X_2+...+X_n)/n = \overline{X_n} \tag{2.1}$
若 $P(A)=p$ ，则“频率趋于概率”，在某种意义下，当 $n$ 很大时，有 $p_n=p$ ，但 $p$ 就是 $X_i$ 的期望值。也可以理解成当 $n$ 很大时， $\overline{X_n}$ 接近于 $X_i$ 的期望值。

定义

设 $X_1, X_2, ..., X_n,...$ 是独立同分布的随机变量序列，且具有数学期望 $E(K_k) = \mu, k=1,2,...$ ，则对于任意的 $\mu>0$ ，有：
$\lim_{n \rightarrow \infty}P\{|\overline{X_n}-\mu|\geqslant \epsilon\}=0 \tag{2.2}$

辛钦大数定理

设随机变量 $X_1,X_2,...,X_n,...$ 独立同分布，且具有同一期望 $E(X)=\mu$ ，则序列 $\overline{X_n}=\frac{1}{n} \sum_{k=1}^{n}X_k$ 依概率收敛于 $\mu$ .

伯努利大数定理

设 $f_A$ 是 $n$ 次独立重复试验中事件 $A$ 发生的次数， $p$ 是事件A在每次试验中发生的概率，则对于任意的正数 $\epsilon$ ，都有
$\lim_{n \rightarrow \infty}P\left \{|\frac{f_A}{n}-p| \geqslant \epsilon \right \}=0 \tag{2.3}$

中心极限定理

定理一：设随机变量 $X_1, X_2, X_3, ... , X_n,..$ 独立同分布，且具有相同的数学期望 $E(X)=\mu$ 和方差 $D(X)=\sigma$ ，则有

$\begin{align} Y_n =& \frac{\sum_{k=1}^{n}X_k- E(\sum_{k=1}^{n}X_k) }{\sqrt{ D(\sum_{k=1}^{n}X_k )}}\\\\ =&\frac{\sum_{k=1}^{n}X_k - n\mu }{\sqrt{ n \sigma^2}} \tag{3.1 } \end{align}$

那么， $Y_n$ 的分布函数 $F_n(x)$ 对于任意 $x$ 满足：
$\begin{align} \lim_{n \rightarrow \infty}P\left \{\frac{\sum_{k=1}^{n}X_k - n\mu }{\sqrt{ n \sigma^2}} \leq x \right \}= \Phi(x) \tag{3.2} \end{align}$

也就是说，当随机变量 $X_1, X_2, X_3, ... , X_n,..$ 独立同分布，且具有相同的数学期望 $E(X)=\mu$ 和方差 $D(X)=\sigma$ 时，当 $n$ 充分大时，其标准化变量趋近于正态分布 $X \sim N(0, 1)$ 。

定理二：拉普拉斯定理

设随机变量 $\eta_n, n=1,2,...$ 服从参数为 $n, p(0<p<1)$ 的二项分布，则对于任意 $x$ ，有
$\begin{align} \lim_{n \rightarrow \infty}P\left \{\frac{\eta_n - np }{\sqrt{ np(1-p)}} \leq x \right \}= \Phi(x) \tag{3.2} \end{align}$

定理一和定理二其实是一样的，在二项分布中， $E(X)=np，D(X)=np(1-p)$

最后编辑于：2019.05.04 14:30:16

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 215,794评论 6赞 498
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 92,050评论 3赞 391
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 161,587评论 0赞 351
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 57,861评论 1赞 290
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 66,901评论 6赞 388
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 50,898评论 1赞 295
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 39,832评论 3赞 416
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 38,617评论 0赞 271
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 45,077评论 1赞 308
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 37,349评论 2赞 331
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 39,483评论 1赞 345
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 35,199评论 5赞 341
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 40,824评论 3赞 325
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 31,442评论 0赞 21
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 32,632评论 1赞 268
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 47,474评论 2赞 368
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 44,393评论 2赞 352