時間序列2 AR,MA,ARMA

1. 方法性工具

1.1 延遲算子p階差分和k步差分

\bigtriangledown^px_t=(1-B)^px_t=\sum_{i=0}^p(-1)^iC^i_px_{t-i}
\bigtriangledown_kx_t=(1-B^k)x_{t}
式中B為延遲算子

1.2 線性差分方程

差分方程

x_t+a_1x_{t-1}+a_2x_{t-2}+\cdots+a_px_{t-p}=\varepsilon_t

齊次特征方程

\lambda^{p}+\lambda^{p-1}a_1+\lambda^{p-2}a_2+\cdots+a_p=0

方程的通解

x^{'}_t=\sum_{j=1}^dc_jt^{j-1}\lambda^t_1+\sum_{j=d+1}^{p-2m}c_j\lambda^t_j+\sum_{j=1}^mr_j^t(c_{1j}e^{itw_j}+c_{2j}e^{-itw_j})
式中等根，不等根，負(fù)數(shù)根分別為d,p-d-2m,2m

方程的特解

回歸系數(shù)方程{\it\Phi}(B)=0解與特征方程解互為倒數(shù)，故有
{\it\Phi}(B)=\prod_{i=1}^p(1-\lambda_iB)
x^{''}_t=\frac{\varepsilon}{\prod_{i=1}^p(1-\lambda_iB)}=\sum_{i=1}^p\frac{k_i}{1-\lambda_iB}\varepsilon_t

2. AR模型

2.1 定義

\begin{cases} x_t=\phi_0+{\phi}_1x_{t-1}+\cdots+\phi_px_{t-p}+\varepsilon_t\\ \phi_p\neq0 \\ E({\varepsilon_t})=0,V({\varepsilon_t})=\sigma_{\varepsilon}^2,E({\varepsilon_t}{\varepsilon_s})=0,s\neq{t}\\ Ex_s\varepsilon_t=0,\forall s<t \end{cases}

中心化均值

\mu=\frac{\phi_0}{1-\phi_1-\cdots-\phi_p}

2.2 平穩(wěn)判定

特征值法

|\lambda_i|<1

平穩(wěn)域法(由特征值法推導(dǎo))

對于AR(1)有
\phi_1 < 1
對于AR(2)有
\begin{cases} |\phi_2|<1 \\ \phi_2\pm\phi_1<1 \end{cases}

2.3 統(tǒng)計特性

方差

Green遞推式
\begin{cases} G_0= 1 \\ G_j=\sum_{k=1}^j\phi_k^{'}G_{j-k}, j=1,2,\cdots \end{cases}
式中
\phi_k^{'} = \begin{cases} \phi_{k} & k\leq p\\ 0 &k > p \end{cases}
方差
{\rm Var}(x_t)=\sum_{j=0}^{\infty}G_j^2\sigma_{\epsilon}^2
對于AR(1)有
{\rm Var}(x_t)=\frac{\sigma_{\epsilon}^2}{1-\phi_1^2}=\gamma_0

協(xié)方差函數(shù)

\gamma_k = \phi_1\gamma_{k-1}+\cdots+\phi_p\gamma_{k-p}
對于AR(1)有
\gamma_0 =\phi_1^k\frac{\sigma_{\epsilon}^2}{1-\phi_1^2}

自相關(guān)系數(shù)

\rho_k = \phi_1\rho_{k-1}+\cdots+\phi_p\rho_{k-p}
對于AR(1)有
\rho_0 =\phi_1^k
自相關(guān)系數(shù)通解為
\rho_k=\sum_{i=1}^p c_i\lambda_i^k
可以看出，自相關(guān)系數(shù)具有拖尾性

偏自相關(guān)系數(shù)

x_t = \phi_{k1}x_{t-1}+\cdots+\phi_{kk}x_{t-k}
\rho_l = \phi_{k1}\rho_{l-1}+\cdots+\phi_{kk}\rho_{l-k}
\left[ \begin{matrix} 1 & \rho_1 & \cdots & \rho_{k-1} \\ \rho_1 & 1 & \cdots & \rho_{k-2}\\ \vdots & \vdots & & \vdots\\ \rho_{k-1} & \rho_{k-2} & \cdots & 1 \end{matrix} \right] \left[ \begin{matrix} \phi_{k1} \\ \phi_{k2} \\ \vdots \\ \phi_{kk} \\ \end{matrix} \right] = \left[ \begin{matrix} \rho_1\\ \rho_2\\ \vdots\\ \rho_k \end{matrix} \right]
\phi_{kk}=\frac{D_k}{D}
式中\phi_{kk}為偏自相關(guān)系數(shù)，D為自相關(guān)系數(shù)矩陣，D_k為將D中k列換成自相關(guān)系數(shù)向量，故當(dāng)k>p時，\phi_{kk}=0，AR偏自相關(guān)系數(shù)q階截尾。

3. MA模型

3.1 定義

\begin{cases} x_t=\mu+\varepsilon_t-\theta_1 \varepsilon_{t-1}-\cdots-\theta_q \varepsilon_{t-q} \\ \theta_q \neq0 \\ E({\varepsilon_t})=0,V({\varepsilon_t})=\sigma_{\varepsilon}^2,E({\varepsilon_t}{\varepsilon_s})=0,s\neq{t}\\ \end{cases}

中心化均值

\mu = \mu

3.2 統(tǒng)計性質(zhì)

方差

{\rm Var}(x_t)=(1+\theta_1^2+\cdots+\theta_p^2)\sigma^2_{\varepsilon}

協(xié)方差函數(shù)

\begin{align} \gamma_k = &E(x_tx_{t-k}) \\ = &E[(\varepsilon_t- \theta_1 \varepsilon_{t-1}- \cdots -\theta_q \varepsilon_{t-q})(\varepsilon_t- \theta_1 \varepsilon_{t-1}- \cdots -\theta_q \varepsilon_{t-q})] \\ = & \begin{cases} {\rm Var}(x_t) & k=0\\ (-\theta_k+\sum_{i=1}^{p-k} \theta_i\theta_{k+i}) & 0<k\leq p\\ 0 & k>p \end{cases} \end{align}

自相關(guān)系數(shù)

\rho_k = \frac{\gamma_k}{\gamma_0}
可以看出，MA自相關(guān)系數(shù)p階截尾

可逆性

特征根|\lambda|<1
逆轉(zhuǎn)形式為
\varepsilon_t=I(B)x_t=\sum_{j=0}^\infty I_jx_{t-j}
\begin{cases} I_0=1 \\ I_j = \sum\limits_{k-1}^j\theta^ {'}_kI_{j-k },j \geq 0 \end{cases}
式中
\theta^ {'}_k=\begin{cases} \theta_k, & k\leq q\\ 0, & k>q \end{cases}

偏自相關(guān)系數(shù)

\phi_{kk}=\frac{-\theta_1^k}{\sum\limits_{j=0}^k\theta^{2j}_1}
MA模型偏自相關(guān)系數(shù)拖尾

4. ARMA模型

4.1 定義

x_t=\phi_0+{\phi}_1x_{t-1}+\cdots+\phi_px_{t-p}+\varepsilon_t-\theta_1 \varepsilon_{t-1}-\cdots-\theta_q \varepsilon_{t-q}
x_t = \sum_{j=0}^{\infty}G_j\varepsilon_{t-j}
\begin{cases} G_0=1 \\ G_k = \sum\limits_{j=1}^k\phi^{'}_jG_{k-j}-\theta^ {'}_k,k\geq 0 \end{cases}
式中
\phi^ {'}_j=\begin{cases} \phi_j , & 1\leq j\leq p\\ 0, & j>p\end{cases} , \theta^{'}_k= \begin{cases} \theta_k, & 1 \leq k\leq q\\ 0, & k>q\end{cases}

4.2 統(tǒng)計特性

均值

E(x_t) = \frac{\phi_0}{1-\phi_1-\cdots-\phi_p}

自協(xié)方差函數(shù)

\gamma(k)=\sigma_{\varepsilon}^2\sum_{i=0}^{\infty}G_iG_{i+k}

自相關(guān)系數(shù)

\phi(k)=\frac{ \gamma(k) }{ \gamma(0)}
ARMA模型自相關(guān)系數(shù)，偏自相關(guān)系數(shù)均拖尾

5 流程

對于模型，均為平穩(wěn)模型

(1) 判斷平穩(wěn)非白噪聲
(2) 計算自相關(guān)系數(shù)ACF和偏自相關(guān)系數(shù)PACF
(3) 根據(jù)截斷性質(zhì)選擇模型，計算參數(shù)
(4) 模型的顯著性檢驗，判斷殘差序列是否是白噪聲
(5) 參數(shù)的顯著性檢驗，t檢驗
(6) 預(yù)測走勢，優(yōu)化模型

最后編輯于 ：
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點，簡書系信息發(fā)布平臺，僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 本文是純粹的數(shù)學(xué)工具的綜述與學(xué)習(xí)筆記，盡量用易懂的方式來講述。讀者需要的預(yù)備知識有： 一元多次方程、解、根的概念、...
    離塵真心閱讀 5,057評論 0贊 0
  • 前面草堂君已經(jīng)按照時間序列分析的教學(xué)順序推送了以下文章，大家可以直接點擊下方文章名稱閱讀回顧： 數(shù)據(jù)分析技術(shù)：時間...
    Morphing0527閱讀 5,583評論 0贊 13
  • 一、基本概念 1.隨機(jī)時序分析的基本概念1）隨機(jī)變量：簡單的隨機(jī)現(xiàn)象，如某班一天學(xué)生出勤人數(shù)，是靜態(tài)的。2）隨機(jī)過...
    apricoter閱讀 6,740評論 0贊 10
  • 寫在前面：關(guān)于為何要寫這個筆記？ 關(guān)于學(xué)習(xí)與遺忘，在考完這門課后，我還能記得些什么呢？引用mbinary的文章：h...
    冬風(fēng)十里Y閱讀 1,636評論 0贊 1
  • 我們的相遇 等來是愛的相守， 堅持一份愛情， 就是愛的永恒， 沒有愛的永恒， 就沒有愛的堅守， 真正的愛情就是守候...
    雪中有雨閱讀 568評論 0贊 0

友情鏈接更多精彩內(nèi)容