无偏估计,有偏估计。有效性,一致性

估计量(estimator),is a rule for calculating an estimate of a given quantity based on observed data: thus the rule (the estimator), the quantity of interest (the [estimand] and its result (the estimate) are distinguished

estimate 取决于估计公式(估计过程estimator)以及用于估计的样本estimand

无偏性
  • 没有系统偏差。估计量的期望等于真实值的期望:
(http://latex.codecogs.com/svg.latex?bias(\hat{\theta}(x))=E(\hat{\theta}(x))-\theta) (http://latex.codecogs.com/svg.latex?\hat{\theta}(x)\ is\ an\ estimator\ of\ \theta\ on\ x,\ \hat{\theta}\ is\ unbiased\ estimator\ when\ bias\ is\ zero)

1.当估计量(视为随机变量)的期望值等于真实参数值则为无偏(任何统计量都是其期望的无偏估计)
2.无偏估计有个重要的性质,例如u为θ的无偏估计,但是f(u)并不一定是f(θ)的无偏估计。例如利用均值的无偏估计,对方差进行估计:(非线性变换下均值无偏性不会保留,不过中值无偏性会保留)
https://www.matongxue.com/madocs/607.html
https://en.wikipedia.org/wiki/Bessel%27s_correction

有效性

离散度小有效性强(low variance,方差sigma^2较小)

一致性

随着样本容量的增加,估计量的序列在概率上收敛于θ

关于bias的选择

 有偏估计一般是由于估计过程存在系统误差。大部分情况,系统误差的引入是有意的:一般是由于无偏估计不存在,或者不进行更多的假设的话难以计算,或者进行有偏估计能使估计量的方差更小(离散度小,有效性强)。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 文章作者:Tyan博客:noahsnail.com | CSDN | 简书 声明:作者翻译论文仅为学习,如有侵权请...
    SnailTyan阅读 5,149评论 0 8
  • 以西瓜书为主线,以其他书籍作为参考进行补充,例如《统计学习方法》,《PRML》等 第一章 绪论 1.2 基本术语 ...
    danielAck阅读 4,603评论 0 6
  • 1 八月的最后一天,在烟台蓬莱召开的市心理健康工作会议上,听到了来自上海的杨敏毅老师的报告《做内心强大的教师——魅...
    haoxiaolin阅读 2,349评论 2 38
  • 失眠睡不着的时候,想起了被吞噬的老实人,他们本分,原则,却逃不过奸佞之人的欺诈,突然觉得做这样的人有什么好?这个世...
    一林人间阅读 439评论 0 0
  • 古人用「力透纸背」来形容文字的质感,真是再贴切不过。但是如今,人们的阅读更多的转移到了电子屏幕上,比如电脑屏幕、手...
    远方的河阅读 324评论 1 4