王燕《应用时间序列分析》学习笔记2

平稳时间序列分析
一个序列经过预处理被识别为平稳非白噪声序列，就说明该序列是一个蕴含着相关信息的平稳序列。在统计上，我们通常是建立一个线性模型来拟合该序列的发展，借此提取该序列中的有用信息。ARMA(auto regression moving average)模型是目前最常采用的平稳序列拟合模型。

1.方法性工具
1.1 差分运算
一阶差分：

∇xt=xt−xt−1$$\mathrm{\nabla }{x}_t=x_t-x_{t-1}$$

二阶差分：

∇2xt=∇xt−∇xt−1$${\mathrm{\nabla }}^2{x}_t=\mathrm{\nabla }{x}_t-\mathrm{\nabla }{x}_{t-1}$$

p阶差分：

∇pxt=∇p−1xt−∇p−1xt−1$${\mathrm{\nabla }}^p{x}_t={\mathrm{\nabla }}^{p-1}{x}_t-{\mathrm{\nabla }}^{p-1}{x}_{t-1}$$

k步差分：

∇k=xt−xx−k$${\mathrm{\nabla }}_k=x_t-x_{x-k}$$

1.2 延迟算子
延迟算子类似于一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻。记B为延迟算子，有：

xt−1=Bx1$$x_{t-1}=B{x}_1$$

xt−2=B2x1$$x_{t-2}=B^2{x}_1$$

...$$...$$

xt−p=Bpx1$$x_{t-p}=B^p{x}_1$$

延迟算子有如下性质：
1.b0=1$b^0=1$
2.若c为任意常数，有B(c⋅xt)=c⋅B(xt)=c⋅xt−1$B(c\cdot x_t)=c\cdot B(x_t)=c\cdot x_{t-1}$
3.对任意两个序列xt,yt$x_t,y_t$ ，有B(xt±yt)=xt−1±yt−1$B(x_t\pm y_t)=x_{t-1}\pm y_{t-1}$
4.Bnxt=xt−n$B^n{x}_t=x_{t-n}$
5.(1−B)n=∑ni=0(−1)nCinBi$(1-B{)}^n=\sum _{i=0}^n(-1{)}^n{C}_n^i{B}^i$ ，其中Cin=n!i!(n−i)!$C_n^i=\frac{n!}{i!(n-i)!}$
用延迟算子表示差分运算：
1.p阶差分：

∇pxt=(1−B)pxt=∑i=0p(−1)pCipxt−i$${\mathrm{\nabla }}^p{x}_t=(1-B{)}^p{x}_t=\sum _{i=0}^p(-1{)}^p{C}_p^i{x}_{t-i}$$

2.k步差分：

∇k=xt−xt−k=(1−Bk)x$${\mathrm{\nabla }}_k=x_t-x_{t-k}=(1-B^k)x$$

1.3线性差分方程
称如下形式的方程为序列{zt,t=0,±1,±2,...}$\{z_t,t=0,\pm 1,\pm 2,...\}$ 的线性差分方程：

zt+a1zt−1+a2zt−2+...+apzt−p=h(t)$$z_t+a_1{z}_{t-1}+a_2{z}_{t-2}+...+a_p{z}_{t-p}=h(t)$$

式中，p≥1;a1,a2,...,ap$p\ge 1;a_1,a_2,...,a_p$ 为实数；h(t)$h(t)$ 为t的已知函数。
特别地，若h(t)=0$h(t)=0$ ，则差分方程

zt+a1zt−1+a2zt−2+...+apzt−p=0$$z_t+a_1{z}_{t-1}+a_2{z}_{t-2}+...+a_p{z}_{t-p}=0$$

为齐次线性差分方程，否则称为非齐次线性差分方程。

2. ARMA模型的性质
ARMA模型的全称是自回归移动平均（auto regression moving average）模型，是常用的拟合平稳序列的模型。
2.1AR模型
具有如下结构的模型称为p阶自回归AR模型，简记为AR(p)$AR(p)$ :

⎧⎩⎨⎪⎪⎪⎪⎪⎪xt=ϕ0+ϕ1xt−1+ϕ2xt−2+...+ϕpxt−p+ϵtϕpx≠0E(ϵ)=0,Var(ϵt)=σ2t,E(ϵtϵs)=0,s≠tExtϵt=0,∀s<t$$\{\begin{array}{l}{x}_t={\varphi }_0+{\varphi }_1{x}_{t-1}+{\varphi }_2{x}_{t-2}+...+{\varphi }_p{x}_{t-p}+{ϵ}_t\\ {\varphi }_{p}x\ne 0\\ E(ϵ)=0,Var({ϵ}_t)={\sigma }_t^2,E({ϵ}_t{ϵ}_s)=0,s\ne t\\ E{x}_t{ϵ}_t=0,\mathrm{\forall }s<t\end{array}$$

令：
μ=ϕ01−ϕ0−...−ϕp,yt=xt−μ$\mu =\frac{{\varphi }_0}{1-{\varphi }_0-...-{\varphi }_p},y_t=x_t-\mu$
则yt$y_t$ 为xt$x_t$ 的中心化序列。中心化序列实际上是非中心化序列平移了一个常数单位。
引入延迟算子，中心化AR(p)模型又可以简记为：

ψ(B)xt=ϵt$$\psi (B)x_t={ϵ}_t$$

式中，ψ(B)=1−ϕ1B−ϕ2B2−...−ϕpBp$\psi (B)=1-{\varphi }_{1}B-{\varphi }_2{B}^2-...-{\varphi }_p{B}^p$ ，称为p阶自回归系数多项式。
2.2.AR模型平稳性判别
AR模型是常用平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的。
图示法可以粗糙地判别AR模型是否为平稳模型，更精确的方法是：特征根判别和平稳域判别。
特征根判别：AR模型平稳的等价判别条件是该AR模型的自回归系数多项式的根，即ψ(u)=0$\psi (u)=0$ 的根，都在单位圆外。
平稳域判别：如果AR(p)模型平稳，则参数向量(ϕ1,ϕ2,...,ϕp)$({\varphi }_1,{\varphi }_2,...,{\varphi }_p)$ 只能取p维欧氏空间的一个子集，使得特征根都在单位圆内的系数集合。

2.3 平稳AR模型的统计性质
1.均值

Ext=μ$$E{x}_t=\mu$$

2.方差

Var(xt)=∑j=0∞G2jσ2ϵ$$Var(x_t)=\sum _{j=0}^{\mathrm{\infty }}{G}_j^2{\sigma }_{ϵ}^2$$

其中G为格林函数，呈负指数下降，说明平稳AR序列方差有界。
3.自相关系数 (ACF)
平稳AR模型具有两个显著特性：一是拖尾性，二是呈负指数衰减。
4.偏自相关系数 (PACF)
对于平稳序列xt$x_t$ ，所谓滞后k偏自相关系数是指在剔除了k−1$k-1$ 个随机变量xi−1,xi−2,...,xi−k+1$x_{i-1},x_{i-2},...,x_{i-k+1}$ 的干扰之后，xt−k$x_{t-k}$ 对xt$x_t$ 影响的相关度量。

ρxt,xt−k|xt−1,...,xx−k+1=E[(xt−E^xt)(xt−kl−E^xt−k)]E[(xt−k−x^t−k)]$${\rho }_{x_t,x_{t-k}}|x_{t-1},...,x_{x-k+1}=\frac{E[(x_t-\hat{E}{x}_t)(x_{t-kl}-\hat{E}{x}_{t-k})]}{E[(x_{t-k}-{\hat{x}}_{t-k})]}$$

偏自相关系数具有p步截尾性：ϕkk=0,∀k>p${\varphi }_{kk}=0,\mathrm{\forall }k>p$

2.4 MA模型
具有如下结构的模型称为q阶移动平均（moving average）模型，简记为MA(q):

⎧⎩⎨⎪⎪xt=μ+ϵt−θ1ϵt−1−θ2ϵt−2−...−θqϵt−qθq≠0E(ϵt)=0,Var(ϵt)=σ2ϵ,E(ϵtϵs)=0,s≠t$$\{\begin{array}{l}{x}_t=\mu +{ϵ}_t-{\theta }_1{ϵ}_{t-1}-{\theta }_2{ϵ}_{t-2}-...-{\theta }_q{ϵ}_{t-q}\\ {\theta }_q\ne 0\\ E({ϵ}_t)=0,Var({ϵ}_t)={\sigma }_{ϵ}^2,E({ϵ}_t{ϵ}_s)=0,s\ne t\end{array}$$

对非中心化MA(q)模型，只要做一个简单的位移，yt=xt−μ$y_t=x_t-\mu$ ，就可以转化为中心化MA(q)模型。
使用延迟算子，中心化MA(q)模型又可以简记为：

xt=Θ(B)ϵt$$x_t=\mathrm{\Theta }(B){ϵ}_t$$

式中，Θ(B)=1−θ1B−θ2B2−...−θqBq$\mathrm{\Theta }(B)=1-{\theta }_{1}B-{\theta }_2{B}^2-...-{\theta }_q{B}^q$ ，称为q阶移动平均系数多项式。
2.5 MA模型的统计性质
1.常数均值

Ext=μ)$$E{x}_t=\mu )$$

2.常数方差

Var(xi)=(1+θ21+...+θ2q)σ2t$$Var(x_i)=(1+{\theta }_1^2+...+{\theta }_q^2){\sigma }_t^2$$

3.自协方差函数只与滞后阶数相关，且q阶截尾
4.自相关系数q阶截尾
5.偏自相关系数拖尾