时间序列2 AR,MA,ARMA

1. 方法性工具

1.1 延迟算子p阶差分和k步差分

$\bigtriangledown^px_t=(1-B)^px_t=\sum_{i=0}^p(-1)^iC^i_px_{t-i}$
$\bigtriangledown_kx_t=(1-B^k)x_{t}$
式中 $B$ 为延迟算子

1.2 线性差分方程

差分方程

$x_t+a_1x_{t-1}+a_2x_{t-2}+\cdots+a_px_{t-p}=\varepsilon_t$

齐次特征方程

$\lambda^{p}+\lambda^{p-1}a_1+\lambda^{p-2}a_2+\cdots+a_p=0$

方程的通解

$x^{'}_t=\sum_{j=1}^dc_jt^{j-1}\lambda^t_1+\sum_{j=d+1}^{p-2m}c_j\lambda^t_j+\sum_{j=1}^mr_j^t(c_{1j}e^{itw_j}+c_{2j}e^{-itw_j})$
式中等根，不等根，负数根分别为 $d$ , $p-d-2m$ , $2m$

方程的特解

回归系数方程 ${\it\Phi}(B)=0$ 解与特征方程解互为倒数，故有
${\it\Phi}(B)=\prod_{i=1}^p(1-\lambda_iB)$
$x^{''}_t=\frac{\varepsilon}{\prod_{i=1}^p(1-\lambda_iB)}=\sum_{i=1}^p\frac{k_i}{1-\lambda_iB}\varepsilon_t$

2. AR模型

2.1 定义

$\begin{cases} x_t=\phi_0+{\phi}_1x_{t-1}+\cdots+\phi_px_{t-p}+\varepsilon_t\\ \phi_p\neq0 \\ E({\varepsilon_t})=0,V({\varepsilon_t})=\sigma_{\varepsilon}^2,E({\varepsilon_t}{\varepsilon_s})=0,s\neq{t}\\ Ex_s\varepsilon_t=0,\forall s<t \end{cases}$

中心化均值

$\mu=\frac{\phi_0}{1-\phi_1-\cdots-\phi_p}$

2.2 平稳判定

特征值法

$|\lambda_i|<1$

平稳域法(由特征值法推导)

对于AR(1)有
$\phi_1 < 1$
对于AR(2)有
$\begin{cases} |\phi_2|<1 \\ \phi_2\pm\phi_1<1 \end{cases}$

2.3 统计特性

方差

Green递推式
$\begin{cases} G_0= 1 \\ G_j=\sum_{k=1}^j\phi_k^{'}G_{j-k}, j=1,2,\cdots \end{cases}$
式中
$\phi_k^{'} = \begin{cases} \phi_{k} & k\leq p\\ 0 &k > p \end{cases}$
方差
${\rm Var}(x_t)=\sum_{j=0}^{\infty}G_j^2\sigma_{\epsilon}^2$
对于AR(1)有
${\rm Var}(x_t)=\frac{\sigma_{\epsilon}^2}{1-\phi_1^2}=\gamma_0$

协方差函数

$\gamma_k = \phi_1\gamma_{k-1}+\cdots+\phi_p\gamma_{k-p}$
对于AR(1)有
$\gamma_0 =\phi_1^k\frac{\sigma_{\epsilon}^2}{1-\phi_1^2}$

自相关系数

$\rho_k = \phi_1\rho_{k-1}+\cdots+\phi_p\rho_{k-p}$
对于AR(1)有
$\rho_0 =\phi_1^k$
自相关系数通解为
$\rho_k=\sum_{i=1}^p c_i\lambda_i^k$
可以看出，自相关系数具有拖尾性

偏自相关系数

$x_t = \phi_{k1}x_{t-1}+\cdots+\phi_{kk}x_{t-k}$
$\rho_l = \phi_{k1}\rho_{l-1}+\cdots+\phi_{kk}\rho_{l-k}$
$\left[ \begin{matrix} 1 & \rho_1 & \cdots & \rho_{k-1} \\ \rho_1 & 1 & \cdots & \rho_{k-2}\\ \vdots & \vdots & & \vdots\\ \rho_{k-1} & \rho_{k-2} & \cdots & 1 \end{matrix} \right] \left[ \begin{matrix} \phi_{k1} \\ \phi_{k2} \\ \vdots \\ \phi_{kk} \\ \end{matrix} \right] = \left[ \begin{matrix} \rho_1\\ \rho_2\\ \vdots\\ \rho_k \end{matrix} \right]$
$\phi_{kk}=\frac{D_k}{D}$
式中 $\phi_{kk}$ 为偏自相关系数， $D$ 为自相关系数矩阵， $D_k$ 为将 $D$ 中 $k$ 列换成自相关系数向量，故当 $k>p$ 时， $\phi_{kk}=0$ ，AR偏自相关系数 $q$ 阶截尾。

3. MA模型

3.1 定义

$\begin{cases} x_t=\mu+\varepsilon_t-\theta_1 \varepsilon_{t-1}-\cdots-\theta_q \varepsilon_{t-q} \\ \theta_q \neq0 \\ E({\varepsilon_t})=0,V({\varepsilon_t})=\sigma_{\varepsilon}^2,E({\varepsilon_t}{\varepsilon_s})=0,s\neq{t}\\ \end{cases}$