數(shù)學(xué)建模系列筆記3：預(yù)測和相關(guān)分析

@[toc]

3-3-1 馬爾科夫鏈模型

  • 馬爾科夫性

    用來描述一種特殊的，定義在某狀態(tài)空間S上的隨機變量序列{Xn},它滿足性質(zhì)
    P(X_{n+1 = E_{n+1}}|X_1 = E_1,X_2 = E_2,…,X_n = E_n) = P(X_{n+1} = E_{n+1}|X_n=E_n)
    將來的狀態(tài)只與現(xiàn)在有關(guān)，而與過去相互獨立。

  • 馬爾科夫鏈Markov Chain：是具有馬爾科夫性的并且狀態(tài)離散的隨機過程。

    圓圈：狀態(tài)

    箭頭：可能的狀態(tài)轉(zhuǎn)換

    權(quán)值：狀態(tài)轉(zhuǎn)移概率，每一個狀態(tài)只和它的前一步狀態(tài)有關(guān)

  • 馬爾科夫鏈模型

3-4-1 灰色預(yù)測模型

  • 灰色系統(tǒng)：部分信息已知，部分信息未知的“小樣本，貧信息“的不確定性系統(tǒng)。通過對部分一直信息的生成、開發(fā)去了解、認(rèn)識現(xiàn)實世界，實現(xiàn)對系統(tǒng)運行行為和演化規(guī)律的正確把握和描述。

  • 灰色系統(tǒng)做預(yù)測的序列需滿足的條件“

    1. 數(shù)據(jù)量小，一般7-15個數(shù)據(jù)

    2. 數(shù)據(jù)的分布不詳或不服從正態(tài)分布

    3. 數(shù)據(jù)具有指數(shù)趨勢

    4. GM（1,1）模型

    灰色系統(tǒng) grey model GM(1,1)模型是根據(jù)系統(tǒng)中已知的多種因素的綜合數(shù)據(jù)，將此數(shù)據(jù)的時間序列按微分方程擬合去畢竟上述時間序列所描述的動態(tài)過程，進而向后推導(dǎo)，達到預(yù)測目的。

    這樣擬合得到的模型是時間序列的一階微分方程，因此簡記為GM(1,1)模型。
    令 X^{(0)}為原始序列，\\ X^{(0)} = (x^{(0)}(1),x^{(0)}(2),…,x^{(0)}(n))\\ X^{(1)}為X^{(0)}的1-AGO序列\(zhòng)\ x^{(1)}(k) = \sum_{i=1}^k x^{(0)}(i),k = 1,2,…,n

    令 X^{(1)}為原始序列，\\ X^{(1)} = (x^{(1)}(1),x^{(1)}(2),…,x^{(1)}(n))\\ X^{(0)}為X^{(1)}的1-IAGO序列\(zhòng)\ x^{(0)}(k) = x^{(1)}(k)-x^{(1)}(k-1),規(guī)定x^{(1)}(0) = 0

    IAGO \quad X^{(1)} = IAGO(AGO \quad X^{(0)}) = X^{(0)}

    1. 建立GM(1,1)的微分方程模型

    令z^{(1)}為x^{(1)}的緊鄰均值生成序列：
    z^{(1)}(k) = \frac{x^{(1)}(k)+x^{(1)}(k-1)}{2}\\ 則可建立GM(1,1)的微分方程模型為：\\ x^{(0)}(k)+az^{(1)}(k) = b

    1. 構(gòu)造數(shù)據(jù)矩陣B,計算參數(shù)

    利用最小二乘估計，得\hat{\alpha} = (a,b)^T = (B^T B)^{-1} B^T Y_n

    1. 求解微分方程

      第二步建立的微分方程相應(yīng)的白化方程為：
      \frac{dx^{(1)}}{dt}+ax^{(1)} = b\\ 解得:\hat{x}^{(1)}(k+1) = [x^{(0)}(1)-\frac{a}]e^{-ak}+\frac{a}

    2. 得到預(yù)測方程
      \hat{x}^{(0)}(k+1) = \hat{x}^{(1)}(k+1)-\hat{x}^{(1)}(k)

    3. GM(1,1)模型檢驗：殘差檢驗和后驗差檢驗

  • 拓展的GM模型

    1. 新陳代謝的GM模型

      思想：用最新的數(shù)據(jù)預(yù)測不遠(yuǎn)的未來

      方法：加一個新數(shù)據(jù)，同時去掉一個舊數(shù)據(jù)

    2. 殘差修正的GM模型

      問題：若后五年數(shù)據(jù)預(yù)測與實際差距越來越大（指數(shù)趨勢越來越不明顯）

      方法：預(yù)測值 = 利用原始數(shù)據(jù)做出的GM模型的預(yù)測值 - 利用殘差數(shù)據(jù)做出的GM模型的預(yù)測值

3-5-1 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)：由具有適應(yīng)性的簡單單元組成的廣泛并行互連的網(wǎng)絡(luò)，它的組織能夠模擬生物神經(jīng)系統(tǒng)對真實世界物體所做出的交互反應(yīng)。

BP神經(jīng)網(wǎng)絡(luò)：反向傳播BackPropagation網(wǎng)絡(luò)，是一種多層前向網(wǎng)絡(luò)，采用最小均方差學(xué)習(xí)方式。這是一種最廣泛應(yīng)用的網(wǎng)絡(luò)，可以用作分類、聚類、預(yù)測等。

算法概括

  1. 對權(quán)系數(shù)w_{ij}直初值：對各層的權(quán)系數(shù)w_{ij}置一個較小的非零隨機數(shù)
  2. 輸入一個樣本x = (x_1,x_2,…,x_n,1),以及對應(yīng)期望輸出y = (y_1,y_2,…,y_n)
  3. 計算各層的輸出
  4. 求各層的學(xué)習(xí)誤差
  5. 修正權(quán)系數(shù)w_{ij}和閾值
  6. 當(dāng)求出了各層各個權(quán)系數(shù)之后，可按給定品質(zhì)指標(biāo)判別是否滿足要求。如果滿足要求，則算法結(jié)束；如果未滿足要求，則返回“3”執(zhí)行。

產(chǎn)生誤差的可能原因：

  1. 存在異常點
  2. 網(wǎng)絡(luò)結(jié)構(gòu)問題：隱層個數(shù)選擇，傳遞函數(shù)選取

4-1-1 關(guān)聯(lián)分析

  • 皮爾遜相關(guān)系數(shù)

    1. 兩變量的總體服從正態(tài)分布
    2. 樣本容量較大
    3. 變量必須是成對數(shù)據(jù)

  • Spearman等級相關(guān)系數(shù)的適用條件

    1. 對變量總體分布、樣本容量不作要求
    2. 變量必須是成對數(shù)據(jù)
    3. 適用有序數(shù)據(jù)

    r_{SP} = 1-\frac{6\sum_{i=1}^n d_i^2}{n(n^2-1)}

    其中n為樣本量，di為兩組數(shù)據(jù)的等級之差

  • kendall秩相關(guān)系數(shù)

    1. 同Speraman等級相關(guān)系數(shù)
    2. 適用有序分類變量
      r_K = \frac{2(N_c - N_d)}{n(n-1)}
      其中n為樣本量，N_c為同向數(shù)對的數(shù)目，N_d為反向數(shù)對的數(shù)目

三種相關(guān)系數(shù)的異同點

  • 相同點：測量兩變量的相關(guān)程度和變化方向，取值范圍相同
  • 不同點：
    1. pearson相關(guān)系數(shù)適用于正態(tài)分布的總體，連續(xù)性數(shù)據(jù)的變量，度量變量之間線性相關(guān)程度，是參數(shù)統(tǒng)計方法
    2. Spearman與Kendall相關(guān)系數(shù)對樣本容量、總體分布不作要求，是非參數(shù)統(tǒng)計方法
    3. Spearman適用于有序數(shù)據(jù)，Kendall適用分類數(shù)據(jù)

4-1-2 獨立性檢驗

  • 分析按兩個或多個特征分類的頻數(shù)數(shù)據(jù)，這種數(shù)據(jù)稱為交叉分類數(shù)據(jù)，一般以表格的形式給出，這種表格稱為列聯(lián)表RXC

  • 檢驗過程

    1. H_0:A,B獨立 p_{ij} = p_i p_j,i=1,2,…,r,j = 1,2,…,c

      H_1:A,B之間有關(guān)系

    2. 檢驗統(tǒng)計量
      \chi^2 = \sum_{i=1}^r \sum_{j=1}^c \frac{(n_{ij}-n\hat{p}_{ij})^2}{n\hat{p}_{ij}}\sim \chi^2(r-1)(c-1)

    3. 給定顯著性水平\alpha,做出統(tǒng)計決策

4-2-1 通徑分析

4-3-1 典型相關(guān)分析

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點，簡書系信息發(fā)布平臺，僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容