高级计量经济学 10:大样本OLS(下)
此文内容为《高级计量经济学及STATA应用》的笔记,陈强老师著,高等教育出版社出版。
我只将个人会用到的知识作了笔记,并对教材较难理解的部分做了进一步阐述。为了更易于理解,我还对教材上的一些部分(包括代码和正文)做了修改。
仅供学习参考,请勿转载,侵删!
目录
-
5 大样本OLS
-
5.7 大样本OLS的假定
- 5.7.1 线性假定
- 5.7.2 渐近独立的平稳过程
- 5.7.3 前定解释变量
- 5.7.4 秩条件
- 5.7.5 鞅差分序列
- 5.7.6 解释变量四阶矩存在
-
5.8 OLS的大样本性质
- 5.8.1
为一致估计量
- 5.8.2
位渐近正态
- 5.8.3
的一致估计
- 5.8.1
-
5.9 线性假设的大样本检验
- 5.9.1 单个系数的检验
- 5.9.2 线性假设的检验
-
5.7 大样本OLS的假定
5 大样本OLS
5.7 大样本OLS的假定
5.7.1 线性假定
5.7.2 渐进独立的平稳过程(ergodic stationarity)
维随机过程
是渐进独立的平稳过程
5.7.3 前定解释变量(predetermined regressors)
所有解释变量均前定
(predetermined),这就意味着他们与同期的扰动项正交,即 ,
。由于方程通常都有常数项,所以总可以假设
,故:
这个
的假设跟严格外生性
是不一样的,后者可以推出前者
这意味着 与同期的扰动项
不相关,就好像
产生以前,
就已经被确定了一样,故名前定解释变量。如果定义:
那么我们就有:
这一点比小样本的严格外生性的要求更低,因为后者要求 与过去、现在、未来的所有
都不相关;而现在只要求
与现在的
不相关即可!
5.7.4 秩条件
阶矩阵
为非退化矩阵,从而
存在,这保证了
存在
5.7.5 鞅差分序列
要求 是一个鞅差分序列,而且其协方差矩阵
是一个非退化矩阵。
这个假设比 5.7.3 的假设更强。前定解释变量保证了 是一致估计量,而鞅差分序列则进一步地保证了其渐进正态
5.7.6 解释变量的四阶矩存在
这是一个数学技巧的假定,不用太在意。即 ,
存在且有限
我们发现,在上面的假定中,我们相比于小样本OLS,放松了:
- 严格外生性 -> 前定解释变量
- 正态随机扰动项 -> 独立平稳、鞅差分序列
这比小样本OLS的条件放宽了太多
5.8 OLS的大样本性质
为了便于使用渐近理论,我们需把估计量 写成
的函数。由于:
于是我们把 划为一组,
划为另外一组,并定义:
其中,由于数据矩阵 的结构是:
所以 就是:
同理 就是:
5.8.1
为一致估计量
在假设 5.7.1 到 5.7.4 (不包括 是鞅差分序列的情况下)下,有:
证明:抽样误差可以写为
其中,是
的“均值”。我们的目标是证明
,所以证明的思路是分别求
和
分别依概率收敛到什么。
假定 5.7.2 意味着随机序列
也是一个渐进独立的平稳序列,所以根据渐进独立定理:
如果
渐进独立且平稳,那么样本矩依概率收敛到总体矩
假定 5.7.4 意味着
存在,所以:
另外,由于是
和
的函数。而
是一个渐进独立的平稳序列,从而
也是一个渐进独立的平稳序列,于是假定 5.7.3 意味着:
所以我们发现:
于是:
证毕。
5.8.2
为渐近正态
如果把 假定5.7.3()强化为 假定5.7.5(
),那么
是渐近正态分布:
其中 是
的渐近方差:
其中 是
的协方差矩阵:
证明:由于我们知道:
所以
根据 假定5.7.5 ,是鞅差分序列,于是根据鞅差分序列的中心极限定理,我们有:
渐近独立的平稳的鞅差分序列
的样本均值以
的速度依分布收敛为均值为
协方差矩阵为
的正态分布
由于
是
的线性组合,所以它也会以
的速度依分布收敛为正态分布:
根据渐近正态的定义,那么是渐近正态的。接下来我们计算
:
由于
,因此:
使用夹心估计量,
那么在时,
和
分别收敛:
由于是对称阵,所以
,于是:
证毕。
我们发现,在这里不需要假设扰动项服从正态分布。这里的思路是:
- 我们假设
是渐近独立的平稳的鞅差分序列(假定5.7.5)
- 那么
依分布收敛到正态分布(鞅差分序列的中心极限定理)(这里是正态分布的来源)
- 建立起
与的
线性关系,那么
也依分布收敛到正态分布(正态分布的线性组合也是正态分布)(把要证明的目标绑到一个正态分布上)
-
也依分布收敛到正态分布本身就是
渐近正态的定义
- 下一步要计算
的方差
- 使用夹心估计量,并在
分别收敛
- 得证
5.8.3
的一致估计
如果存在 是
的一致估计量,那么
是
的一致估计,即:
证明:如果存在
,已知
,那么很自然地就有:
证毕。
为了求解 的一致估计量,我们要运用 假定5.7.6 ,从而可以证明(这个证明比较难,略):
即 是
的一致估计量,其中
为最小二乘法的残差。可以进一步证明
是
的一致估计。
性质: 是无条件方差
的一致估计量
证明:由有关消灭矩阵的知识(见《高级计量5》3.3):
继续计算下去:
由于我们知道:
其中,第二个等式运用了是渐近独立的平稳列。 对
求
就有:
即是
的一致估计量。
证毕。
5.9 线性假设的大样本检验
5.9.1 单个系数的检验
在原假设 成立的条件下,我们有:
其中, 是
的第
个元素,而
是协方差矩阵
的第
个元素。由于
我们是未知的,所以考虑用它的一致估计
来替代它。那么我们可以定义
统计量为:
注意,虽然叫
统计量,实际上服从的是渐近正态!
这里的思想是简单的,回忆对任意 ,都有
,其实两者的结构是一样的。
当然,为了便于描述,我们可以对 做进一步变形:
那么我们就定义:
为异方差稳健的标准误
(heteroskedasticiry-consistent standard erros),简称稳健的标准误(robust standard errors)。之所以这么称呼,是因为推导的过程中没有用到条件同方差的假定,所以在条件异方差下也能用。
性质:可以证明,在条件同方差的假设下,稳健的标准误退化为普通标准误
证明:如果假设
(条件同方差),那么使用迭代期望定律:
我们发现,
,所以:
于是:
写这么多
一方面是为了装逼
但更重要的是让你看明白这个代换是怎么来的😂
一定一定不要错过
的细节!
于是:
所以:
这就是普通的标准误了证毕。
5.9.2 线性假设的检验
思路与小样本OLS是类似的,对零假设 ,我们实际上要衡量
与
的距离。可以证明,统计量
满足:
证明:令
,令
,那么现在
如果
成立,那么
由于我们知道,而
是
的线性组合,所以
也是依分布收敛于正态分布的。而且:
设,从而在
时:
定义,由于
,所以
于是:
证毕。