王燕《應用時間序列分析》學習筆記2

平穩時間序列分析
一個序列經過預處理被識別爲平穩非白噪聲序列，就說明該序列是一個蘊含着相關信息的平穩序列。在統計上，我們通常是建立一個線性模型來擬合該序列的發展，藉此提取該序列中的有用信息。ARMA(auto regression moving average)模型是目前最常採用的平穩序列擬合模型。

1.方法性工具
1.1 差分運算
一階差分：

∇xt=xt−xt−1$$\mathrm{\nabla }{x}_t=x_t-x_{t-1}$$

二階差分：

∇2xt=∇xt−∇xt−1$${\mathrm{\nabla }}^2{x}_t=\mathrm{\nabla }{x}_t-\mathrm{\nabla }{x}_{t-1}$$

p階差分：

∇pxt=∇p−1xt−∇p−1xt−1$${\mathrm{\nabla }}^p{x}_t={\mathrm{\nabla }}^{p-1}{x}_t-{\mathrm{\nabla }}^{p-1}{x}_{t-1}$$

k步差分：

∇k=xt−xx−k$${\mathrm{\nabla }}_k=x_t-x_{x-k}$$

1.2 延遲算子
延遲算子類似於一個時間指針，當前序列值乘以一個延遲算子，就相當於把當前序列值的時間向過去撥了一個時刻。記B爲延遲算子，有：

xt−1=Bx1$$x_{t-1}=B{x}_1$$

xt−2=B2x1$$x_{t-2}=B^2{x}_1$$

...$$...$$

xt−p=Bpx1$$x_{t-p}=B^p{x}_1$$

延遲算子有如下性質：
1.b0=1$b^0=1$
2.若c爲任意常數，有B(c⋅xt)=c⋅B(xt)=c⋅xt−1$B(c\cdot x_t)=c\cdot B(x_t)=c\cdot x_{t-1}$
3.對任意兩個序列xt,yt$x_t,y_t$ ，有B(xt±yt)=xt−1±yt−1$B(x_t\pm y_t)=x_{t-1}\pm y_{t-1}$
4.Bnxt=xt−n$B^n{x}_t=x_{t-n}$
5.(1−B)n=∑ni=0(−1)nCinBi$(1-B{)}^n=\sum _{i=0}^n(-1{)}^n{C}_n^i{B}^i$ ，其中Cin=n!i!(n−i)!$C_n^i=\frac{n!}{i!(n-i)!}$
用延遲算子表示差分運算：
1.p階差分：

∇pxt=(1−B)pxt=∑i=0p(−1)pCipxt−i$${\mathrm{\nabla }}^p{x}_t=(1-B{)}^p{x}_t=\sum _{i=0}^p(-1{)}^p{C}_p^i{x}_{t-i}$$

2.k步差分：

∇k=xt−xt−k=(1−Bk)x$${\mathrm{\nabla }}_k=x_t-x_{t-k}=(1-B^k)x$$

1.3線性差分方程
稱如下形式的方程爲序列{zt,t=0,±1,±2,...}$\{z_t,t=0,\pm 1,\pm 2,...\}$ 的線性差分方程：

zt+a1zt−1+a2zt−2+...+apzt−p=h(t)$$z_t+a_1{z}_{t-1}+a_2{z}_{t-2}+...+a_p{z}_{t-p}=h(t)$$

式中，p≥1;a1,a2,...,ap$p\ge 1;a_1,a_2,...,a_p$ 爲實數；h(t)$h(t)$ 爲t的已知函數。
特別地，若h(t)=0$h(t)=0$ ，則差分方程

zt+a1zt−1+a2zt−2+...+apzt−p=0$$z_t+a_1{z}_{t-1}+a_2{z}_{t-2}+...+a_p{z}_{t-p}=0$$

爲齊次線性差分方程，否則稱爲非齊次線性差分方程。

2. ARMA模型的性質
ARMA模型的全稱是自迴歸移動平均（auto regression moving average）模型，是常用的擬合平穩序列的模型。
2.1AR模型
具有如下結構的模型稱爲p階自迴歸AR模型，簡記爲AR(p)$AR(p)$ :

⎧⎩⎨⎪⎪⎪⎪⎪⎪xt=ϕ0+ϕ1xt−1+ϕ2xt−2+...+ϕpxt−p+ϵtϕpx≠0E(ϵ)=0,Var(ϵt)=σ2t,E(ϵtϵs)=0,s≠tExtϵt=0,∀s<t$$\{\begin{array}{l}{x}_t={\varphi }_0+{\varphi }_1{x}_{t-1}+{\varphi }_2{x}_{t-2}+...+{\varphi }_p{x}_{t-p}+{ϵ}_t\\ {\varphi }_{p}x\ne 0\\ E(ϵ)=0,Var({ϵ}_t)={\sigma }_t^2,E({ϵ}_t{ϵ}_s)=0,s\ne t\\ E{x}_t{ϵ}_t=0,\mathrm{\forall }s<t\end{array}$$

令：
μ=ϕ01−ϕ0−...−ϕp,yt=xt−μ$\mu =\frac{{\varphi }_0}{1-{\varphi }_0-...-{\varphi }_p},y_t=x_t-\mu$
則yt$y_t$ 爲xt$x_t$ 的中心化序列。中心化序列實際上是非中心化序列平移了一個常數單位。
引入延遲算子，中心化AR(p)模型又可以簡記爲：

ψ(B)xt=ϵt$$\psi (B)x_t={ϵ}_t$$

式中，ψ(B)=1−ϕ1B−ϕ2B2−...−ϕpBp$\psi (B)=1-{\varphi }_{1}B-{\varphi }_2{B}^2-...-{\varphi }_p{B}^p$ ，稱爲p階自迴歸係數多項式。
2.2.AR模型平穩性判別
AR模型是常用平穩序列的擬合模型之一，但並非所有的AR模型都是平穩的。
圖示法可以粗糙地判別AR模型是否爲平穩模型，更精確的方法是：特徵根判別和平穩域判別。
特徵根判別：AR模型平穩的等價判別條件是該AR模型的自迴歸係數多項式的根，即ψ(u)=0$\psi (u)=0$ 的根，都在單位圓外。
平穩域判別：如果AR(p)模型平穩，則參數向量(ϕ1,ϕ2,...,ϕp)$({\varphi }_1,{\varphi }_2,...,{\varphi }_p)$ 只能取p維歐氏空間的一個子集，使得特徵根都在單位圓內的係數集合。

2.3 平穩AR模型的統計性質
1.均值

Ext=μ$$E{x}_t=\mu$$

2.方差

Var(xt)=∑j=0∞G2jσ2ϵ$$Var(x_t)=\sum _{j=0}^{\mathrm{\infty }}{G}_j^2{\sigma }_{ϵ}^2$$

其中G爲格林函數，呈負指數下降，說明平穩AR序列方差有界。
3.自相關係數 (ACF)
平穩AR模型具有兩個顯著特性：一是拖尾性，二是呈負指數衰減。
4.偏自相關係數 (PACF)
對於平穩序列xt$x_t$ ，所謂滯後k偏自相關係數是指在剔除了k−1$k-1$ 個隨機變量xi−1,xi−2,...,xi−k+1$x_{i-1},x_{i-2},...,x_{i-k+1}$ 的干擾之後，xt−k$x_{t-k}$ 對xt$x_t$ 影響的相關度量。

ρxt,xt−k|xt−1,...,xx−k+1=E[(xt−E^xt)(xt−kl−E^xt−k)]E[(xt−k−x^t−k)]$${\rho }_{x_t,x_{t-k}}|x_{t-1},...,x_{x-k+1}=\frac{E[(x_t-\hat{E}{x}_t)(x_{t-kl}-\hat{E}{x}_{t-k})]}{E[(x_{t-k}-{\hat{x}}_{t-k})]}$$

偏自相關係數具有p步截尾性：ϕkk=0,∀k>p${\varphi }_{kk}=0,\mathrm{\forall }k>p$

2.4 MA模型
具有如下結構的模型稱爲q階移動平均（moving average）模型，簡記爲MA(q):

⎧⎩⎨⎪⎪xt=μ+ϵt−θ1ϵt−1−θ2ϵt−2−...−θqϵt−qθq≠0E(ϵt)=0,Var(ϵt)=σ2ϵ,E(ϵtϵs)=0,s≠t$$\{\begin{array}{l}{x}_t=\mu +{ϵ}_t-{\theta }_1{ϵ}_{t-1}-{\theta }_2{ϵ}_{t-2}-...-{\theta }_q{ϵ}_{t-q}\\ {\theta }_q\ne 0\\ E({ϵ}_t)=0,Var({ϵ}_t)={\sigma }_{ϵ}^2,E({ϵ}_t{ϵ}_s)=0,s\ne t\end{array}$$

對非中心化MA(q)模型，只要做一個簡單的位移，yt=xt−μ$y_t=x_t-\mu$ ，就可以轉化爲中心化MA(q)模型。
使用延遲算子，中心化MA(q)模型又可以簡記爲：

xt=Θ(B)ϵt$$x_t=\mathrm{\Theta }(B){ϵ}_t$$

式中，Θ(B)=1−θ1B−θ2B2−...−θqBq$\mathrm{\Theta }(B)=1-{\theta }_{1}B-{\theta }_2{B}^2-...-{\theta }_q{B}^q$ ，稱爲q階移動平均係數多項式。
2.5 MA模型的統計性質
1.常數均值

Ext=μ)$$E{x}_t=\mu )$$

2.常數方差

Var(xi)=(1+θ21+...+θ2q)σ2t$$Var(x_i)=(1+{\theta }_1^2+...+{\theta }_q^2){\sigma }_t^2$$

3.自協方差函數只與滯後階數相關，且q階截尾
4.自相關係數q階截尾
5.偏自相關係數拖尾