CH1: 早期概率论，大数定律
16世纪初：掷骰子--->一个事件的概率
事件分为两种
- 可重复性：客观概率
+ 古典概率：掷骰子，概率的萌芽
- 称为chance
- 胜率 odds
+ 统计概率：大量重复实验
+ 1933年：Kolmogorov 公理体系
- 一次性：主观概率
+ 称为probability
+ 贝叶斯
1.1 Cardano：古典概率
1564，掷骰子中各种情况出现的机遇问题
诚实的骰子；胜率；排列组合
定义并计算古典概率
没有记录各结果的频率，说明还不清楚频率和概率的联系
1.2 分赌本
1654， Pascal：分配比例=获胜期望比例
启示了数学期望和概率的关系
1.3 Pascal和Ferma的通信
1654年7~10月，赌博问题，等可能情况，引进期望的概念
1657，Huygens，命名期望expectation
1.4 Huygens
1657，《机遇的规律》，公平赌博--->期望的3条定理
期望的一般化定义
1713，Jacob Bernoulli，Ars Conjectandi，推广到赌博以外，提出大数定律
一个事件的概率P(A)=p，实际观察检验/估计
e.g.，抽白球,当N趋于无穷，频率趋近于概率
Bernoulli给出了证明
1.5 Ars Conjectandi 前三章内容
Ars Conjectandi 四部分：
- 注解《机遇的规律》：系统化和深化了概率论，明确讨论了独立同分布情形，概率乘法定理，严格证明二项概率公式，利用无穷级数求和计算概率
- 排列组合的系统论述：首次引进排列的概念，研究了组合数的性质，超几何分布，正整数幂次和公式，
- 赌博问题
- 概率论的实际应用，大数定律
- 附录：网球赛胜率
1.6 关于概率的几点看法
Ars Conjectandi 中也分成主观和客观概率，新观点：
- 将客观概率分成两种
+ 可先验计算：古典概率
+ 后验计算：统计概率
- 机械决定论：若所有外界条件都可确定，则不存在随机性
- 道德确定性moral certainty：概率接近1的事件
+ 现在称为practical certainty
+ 小概率事件原理：概率很小的事件在一次实验中极不会发生
- 将古典概率中的等可能性推广到主观概率上
+ The principle of indifference：同等无知原则 --> noninformative prior
+ principle of insufficient reason: Laplace
1.7 Bernoulli大数定律
箱子中有a个白球，b个黑球。抽取N次，每个球有相同概率被抽中。共有X个白球被抽到。证明：X/N依概率收敛到a/(a+b)。
- Chebyshev不等式的推论，Bernoulli时尚无方差的概念
- 1909，Borel，几乎处处收敛
给定精度和可靠度，规划样本量N：
切比雪夫>伯努利>de Moivre二项分布的正态逼近
