1.什么是注意力機(jī)制 2.attention綜述 3.attention
針對(duì)問題:時(shí)間序列預(yù)測(cè)。LSTM的淺層架構(gòu)無法有效地表示時(shí)間序列數(shù)據(jù)的復(fù)雜特征,尤其是高度非線性和長間隔時(shí)間序列數(shù)據(jù)集。 提出模型:deep-LSTM(DLSTM)可以適應(yīng)學(xué)...
問題背景:deepLSTM模型在建模多元時(shí)間序列(MTS)性能有待提高,尤其是高度非線性和長間隔的MTS數(shù)據(jù)集。原因:監(jiān)督學(xué)習(xí)方法在RNN中隨機(jī)初始化神經(jīng)元,從而使最終必須正...
針對(duì)問題:結(jié)構(gòu)化序列 structured sequences(如,時(shí)空序列). 提出模型:GCRN. 圖+CNN——識(shí)別空間結(jié)構(gòu),RNN——查找動(dòng)態(tài)模式。 研究兩種Grap...
問題背景:交通流量預(yù)測(cè)忽略時(shí)空依賴性。 提出模型:Spatio-Temporal Graph Convolutional Networks (STGCN)。instead o...
針對(duì)問題:交通預(yù)測(cè)。 提出模型:擴(kuò)散卷積遞歸神經(jīng)網(wǎng)絡(luò)(DCRNN)。DCRNN在圖形上使用雙向隨機(jī)步捕獲空間依賴性,并使用計(jì)劃采樣的編碼器-解碼器結(jié)構(gòu)捕獲時(shí)間依賴性。 代碼G...
用于流量預(yù)測(cè)的時(shí)序圖卷積 問題背景:交通流量預(yù)測(cè)。 提出模型:為了同時(shí)捕獲空間和時(shí)間相關(guān)性,提出了時(shí)間圖卷積網(wǎng)絡(luò)(T-GCN)模型,即將圖卷積網(wǎng)絡(luò)(GCN)和GRU結(jié)合。GC...
對(duì)RNN和CNN進(jìn)行比較 時(shí)間卷積網(wǎng)絡(luò)TCN代碼:GitHub - locuslab/TCN: Sequence modeling benchmarks and tempor...
問題背景:預(yù)測(cè)玻璃態(tài)系統(tǒng)中的靜態(tài)結(jié)構(gòu)變化 提出模型:使用圖神經(jīng)網(wǎng)絡(luò),僅從初始粒子位置確定玻璃態(tài)系統(tǒng)的長期演化,而沒有任何手工特征。 通過我們的網(wǎng)絡(luò)了解到的結(jié)構(gòu)預(yù)測(cè)變量顯示出相...
問題背景:在云環(huán)境中,IT解決方案通過共享的基礎(chǔ)架構(gòu)交付給用戶,從而使云服務(wù)提供商可以根據(jù)用戶QoS(服務(wù)質(zhì)量)要求將應(yīng)用程序部署為服務(wù)。這種云模型的后果之一是大型云基礎(chǔ)架構(gòu)...
用于異常檢測(cè)的數(shù)據(jù)中心圖的構(gòu)造 以根據(jù)傳感器的時(shí)間序列測(cè)量來構(gòu)建事物的DC圖(傳感器圖)。傳感器圖是無向加權(quán)屬性圖,其中傳感器是節(jié)點(diǎn),傳感器特征是節(jié)點(diǎn)屬性,傳感器連接是邊。傳...
針對(duì)問題:多時(shí)間范圍mulct-timescales的太陽輻射預(yù)測(cè)。 提出模型:多任務(wù)學(xué)習(xí)機(jī)制研究multi-scale(MTS)預(yù)測(cè),應(yīng)用回聲狀態(tài)網(wǎng)絡(luò)(ESN)。提出MTS...
在論文寫作和博客中經(jīng)常需要大量數(shù)學(xué)公式,latex可以幫助我們把數(shù)學(xué)公式完整的編輯出來,并作出優(yōu)美的排版,我花了一些時(shí)間,綜合一些博客和網(wǎng)絡(luò)上的資料,做一個(gè)總結(jié),方便自己查詢...
基于daily模式的分類模型,預(yù)測(cè)日前電價(jià) 針對(duì)問題:電價(jià)中不同模式顯示出不同映射關(guān)系,電價(jià)單變量預(yù)測(cè)誤差大。 提出模型:基于每日模式預(yù)測(cè)(daily pattern pre...
針對(duì)問題:數(shù)據(jù)中心能耗利用率低——數(shù)據(jù)中心電力傳輸層次結(jié)構(gòu)過載和使斷路器跳閘的代價(jià)非常高,有可能導(dǎo)致長期服務(wù)中斷。 本文貢獻(xiàn):1.表征數(shù)據(jù)中心各種工作負(fù)載的能耗變化。量化不同...
時(shí)間序列是指一組在連續(xù)時(shí)間上測(cè)得的數(shù)據(jù),其在數(shù)學(xué)上的定義是一組向量x(t), t=0,1,2,3,...,其中t表示數(shù)據(jù)所在的時(shí)間點(diǎn),x(t)是一組按時(shí)間順序(測(cè)得)排列的隨...
針對(duì)問題:預(yù)測(cè)磁盤故障 提出模型:1.使用時(shí)序中的changepoint檢測(cè),識(shí)別即將替換的磁盤的SMART屬性。 2.通過將事件編碼成一個(gè)個(gè)點(diǎn),把事件序列轉(zhuǎn)換為樣本集,從而...
針對(duì)問題:CPU利用率可以建模平均能耗,但是對(duì)于預(yù)測(cè)峰值粒度過粗。 提出模型:表征服務(wù)器利用率和電源行為之間的關(guān)系,對(duì)實(shí)際峰值功耗建模。引入新的操作系統(tǒng)指標(biāo),捕獲所需信息,以...
針對(duì)問題:預(yù)測(cè)數(shù)據(jù)中心的服務(wù)器能耗 提出模型:將數(shù)據(jù)中心建模分成四部分:ICT資源建模、服務(wù)器建模、存儲(chǔ)建模、服務(wù)建模。 由于通??梢月?lián)合分布在地理位置上的一組數(shù)據(jù)中心,因此...