原理

????BP神經(jīng)網(wǎng)絡(luò)分為兩部分，前向傳播和反向傳播；前向傳播前面已經(jīng)講過了，那么在這兒就講講反向傳播。其實反向傳播和我們Logistic Regression原理差不多，都是通過代價函數(shù)來進行求導(dǎo)，只不過在這兒我們神經(jīng)網(wǎng)絡(luò)一共有三層，那么就會有兩組權(quán)重，分別對應(yīng)第一層傳向第二層，第二層傳向第三層。所以，在這里，我們可能就需要進行求偏導(dǎo)，然后去更新我們的權(quán)重

效果

????效果相比于我們的Logistic Regression 和給定權(quán)重的前向傳播，要略差一些。準確率波動比較大，在85％~99％左右

具體實現(xiàn)

需要導(dǎo)入的庫

導(dǎo)入數(shù)據(jù)

顯示數(shù)據(jù)

將Y轉(zhuǎn)化為矩陣

降維升維函數(shù)

????主要用于minimize（）函數(shù)來方便求theta

前向傳播函數(shù)

代價函數(shù)和正則函數(shù)

梯度函數(shù)

梯度檢驗函數(shù)

預(yù)測函數(shù)

θ生成函數(shù)

主函數(shù)

小結(jié)

? ? 到此，我們已經(jīng)能夠構(gòu)建一個簡單的神經(jīng)網(wǎng)絡(luò)，能夠解決簡單的實際問題。已經(jīng)邁出一大步了！