模仿神經(jīng)元:


x0稱為偏差單位或者偏差神經(jīng)元(bias unit or bias neuron),它總是等于1;
θ稱為權(quán)重(weights)(其實(shí)就是之前的參數(shù))
一個簡單的神經(jīng)網(wǎng)絡(luò):

Layer 1:也稱為輸入層(Input layer)
最后一層:稱為輸出層(output layer)
中間層:稱為隱藏層(hidden layer)
神經(jīng)網(wǎng)絡(luò)各個激勵函數(shù)的表示:

向量化計(jì)算:

從輸入層激勵向前傳播給隱藏層并計(jì)算,然后繼續(xù)傳播,最后計(jì)算輸出層的激勵,也稱為前向傳播(forward propagation)
神經(jīng)網(wǎng)絡(luò)類似邏輯回歸,只不過我們把輸入的x1,x2,x3改成a1,a2,a3,而a1,a2,a3又是由輸入的x1,x2,x3和一組Θ決定 。
