1.基礎(chǔ)理論與相關(guān)技術(shù)

1.1神經(jīng)網(wǎng)絡(luò)的介紹

????????神經(jīng)網(wǎng)絡(luò)是以人腦中人的神經(jīng)為啟發(fā)的，形成了可以用于網(wǎng)絡(luò)研究的人工神經(jīng)網(wǎng)絡(luò)。單個神經(jīng)元的數(shù)學(xué)模型如圖1.1，根據(jù)圖2.1，可以知道單個神經(jīng)元的函數(shù)式如公式（1.1），其中b是偏移值；是初始特征；是權(quán)重，表示特征的縮放倍數(shù)；是激活函數(shù)。特征通過縮放和權(quán)重，然后全部累加起來后，此時輸出的是線性函數(shù)，網(wǎng)絡(luò)的建立沒有太大的意義，因此還要經(jīng)過一次激活運(yùn)算然后再輸出。在加權(quán)求和后要做的是線性變換，神因此我們需要一個非線性的轉(zhuǎn)換函數(shù)，常見的激活函數(shù)有Sifmoid函數(shù)、Tang函數(shù)、Elu函數(shù)、Softplus函數(shù)以Relu函數(shù)。本次研究使用的是Relu函數(shù)，它的值域有下限但是沒有上限，它的函數(shù)圖像如圖1.2。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?圖1.1單個神經(jīng)元的數(shù)學(xué)模型

????????????????????????????????????????????????????????????????單個神經(jīng)元的函數(shù)式（1.1）

????????????????????????????????????????????????????????????????????圖2.2??Relu激活函數(shù)

????????人工神經(jīng)網(wǎng)絡(luò)中有許多神經(jīng)元，不同的神經(jīng)元分別組成了輸入層、輸出層和隱藏層,輸入層由輸入單元組成，接收外部的信息；輸出層生成最終結(jié)果，每個輸出單元會對應(yīng)到某一種特定的分類，為網(wǎng)絡(luò)送給外部系統(tǒng)的結(jié)果值；隱藏層處于輸入層和輸出層中間，用于分析處理輸入的數(shù)據(jù)，然后輸出給輸出層。如圖1.3是簡單的神經(jīng)網(wǎng)絡(luò)。

????????????????????????????????????????????????????????????????圖1.3簡單的神經(jīng)網(wǎng)絡(luò)???????????????

圖1.3對應(yīng)的函數(shù)式為：