1、大数定理
当 样本容量N趋于无穷时，经验风险趋于期望风险。
2、中心极限定理
只要n足够大，便可以把独立同分布的随机变量之和当作正态变量。样本的平均值约等于总体的平均值。不管总体是什么分布，任意一个总体的样本平均值都会围绕在总体的整体平均值周围，并且呈正态分布。也就是说：无论什么分布，从总体中抽取一个样本，若样本数量很大，则样本服从正态分布。若总体的均值和方差分别为和
，则样本的均值和方差分别为
和
;n为样本数量。
那么中心极限定理有什么用呢？加入存在总体服从二项分布,
;
;z则其样本的分布为
。泊松分布等也可以按此处理。用于总体来估计样本分布。
3、切比雪夫定理和不等式
切比雪夫不等式，描述了这样一个事实，事件大多会集中在平均值附近。
切比雪夫定理
切比雪夫定理的含义
切比雪夫不等式
。
