估计量(estimator),is a rule for calculating an estimate of a given quantity based on observed data: thus the rule (the estimator), the quantity of interest (the [estimand] and its result (the estimate) are distinguished
estimate 取决于估计公式(估计过程estimator)以及用于估计的样本estimand
无偏性
- 没有系统偏差。估计量的期望等于真实值的期望:
(http://latex.codecogs.com/svg.latex?bias(\hat{\theta}(x))=E(\hat{\theta}(x))-\theta)
(http://latex.codecogs.com/svg.latex?\hat{\theta}(x)\ is\ an\ estimator\ of\ \theta\ on\ x,\ \hat{\theta}\ is\ unbiased\ estimator\ when\ bias\ is\ zero)
1.当估计量(视为随机变量)的期望值等于真实参数值则为无偏(任何统计量都是其期望的无偏估计)
2.无偏估计有个重要的性质,例如u为θ的无偏估计,但是f(u)并不一定是f(θ)的无偏估计。例如利用均值的无偏估计,对方差进行估计:(非线性变换下均值无偏性不会保留,不过中值无偏性会保留)
https://www.matongxue.com/madocs/607.html,
https://en.wikipedia.org/wiki/Bessel%27s_correction
有效性
离散度小有效性强(low variance,方差sigma^2较小)
一致性
随着样本容量的增加,估计量的序列在概率上收敛于θ
关于bias的选择
有偏估计一般是由于估计过程存在系统误差。大部分情况,系统误差的引入是有意的:一般是由于无偏估计不存在,或者不进行更多的假设的话难以计算,或者进行有偏估计能使估计量的方差更小(离散度小,有效性强)。