各位小伙伴們大家好，今天讓我們聊聊在做好了自己的神經(jīng)網(wǎng)絡(luò)以后來(lái)如何評(píng)價(jià)自己的神經(jīng)網(wǎng)絡(luò)的并且如何從評(píng)價(jià)當(dāng)中如何改進(jìn)我們的神經(jīng)網(wǎng)絡(luò)。

其實(shí)評(píng)價(jià)神經(jīng)網(wǎng)絡(luò)的方法和評(píng)價(jià)其他的機(jī)器學(xué)習(xí)的方法大同小異，那么你可能會(huì)想，機(jī)器學(xué)習(xí)如此精準(zhǔn)，為什么我們要去檢驗(yàn)這個(gè)神經(jīng)網(wǎng)絡(luò)呢？其實(shí)在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練中，神經(jīng)網(wǎng)絡(luò)可能會(huì)和我們一樣會(huì)出現(xiàn)各種各樣的問(wèn)題，出現(xiàn)學(xué)習(xí)的效率不高，或者是學(xué)習(xí)的干擾太多，學(xué)到最好并沒有很好地學(xué)到這些數(shù)據(jù)所得到的規(guī)律，但是這其中的原因可能是多方面的，可能是數(shù)據(jù)問(wèn)題，也可能是數(shù)據(jù)網(wǎng)絡(luò)參數(shù)的問(wèn)題，因此，為了檢驗(yàn)評(píng)價(jià)神經(jīng)網(wǎng)絡(luò)，為了改善或者規(guī)避這些問(wèn)題。我們通常會(huì)把收集到的數(shù)據(jù)分為訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)。一般用于訓(xùn)練的數(shù)據(jù)可以是所有數(shù)據(jù)的7成，剩下的3成可以作為測(cè)試數(shù)據(jù)用來(lái)檢驗(yàn)訓(xùn)練結(jié)果。

這個(gè)時(shí)候，你可能會(huì)想，我們?yōu)槭裁磿?huì)把這些數(shù)據(jù)分為兩批。那么，現(xiàn)在請(qǐng)你回想一下你讀書的日子。我們考試的題目和我們平時(shí)作業(yè)的題目平時(shí)都是不一樣的吧。其實(shí)，這個(gè)也是同樣的一個(gè)道理。緊接著，對(duì)于神經(jīng)網(wǎng)絡(luò)的這個(gè)評(píng)價(jià)很大程度上其實(shí)就是基于這三成的數(shù)據(jù)的運(yùn)行結(jié)果。想想我們最可怕的期末考試吧。雖然花費(fèi)的時(shí)間少，但是得到的總成績(jī)可是往往比你的作業(yè)的分多吧。要是期末考試考不好那可就掛科了。所以說(shuō)這個(gè)三成的數(shù)據(jù)雖然少，但是這個(gè)數(shù)據(jù)很重要，然后跑完數(shù)據(jù)后，我們就可以根據(jù)數(shù)據(jù)畫圖了。

首先，評(píng)價(jià)機(jī)器學(xué)習(xí)首先可以從誤差這個(gè)層度開始，隨著訓(xùn)練時(shí)間的變長(zhǎng)，優(yōu)秀的神經(jīng)網(wǎng)絡(luò)可以預(yù)測(cè)到更加精準(zhǔn)的答案，預(yù)測(cè)誤差也會(huì)更少，最后能夠提升的空間變小，所繪制的曲線也會(huì)變得水平，就好比我們班上的差生從不及格到達(dá)80分已經(jīng)很不容易了，再往上沖刺一百分就變得更難得事。機(jī)器學(xué)習(xí)也是一樣，因此如果你的機(jī)器學(xué)習(xí)的曲線是我下圖這樣的一張曲線，就已經(jīng)是很不錯(cuò)的學(xué)習(xí)成果了。

除了誤差曲線，我們也可以看他的精確度曲線，最好的精度是趨向于百分之百的精度，比如在神經(jīng)網(wǎng)絡(luò)的分類問(wèn)題中，有一百個(gè)樣本，有90張樣本分類正確，那么就可以說(shuō)我們的預(yù)測(cè)精度就是百分之90，不過(guò)大家有沒有想過(guò)對(duì)于回歸的問(wèn)題呢？怎樣去預(yù)測(cè)連續(xù)數(shù)字參與的精度呢？ 這個(gè)時(shí)候我們就可以引入一個(gè)R2分?jǐn)?shù)，再去測(cè)量回歸問(wèn)題的精度。R2分?jǐn)?shù)所得出的結(jié)果精度也是百分之百，因此這樣的回歸的問(wèn)題就有了一個(gè)統(tǒng)一的精度的標(biāo)準(zhǔn)。除了上述的那些評(píng)分標(biāo)準(zhǔn)，我們還有很多的測(cè)量標(biāo)準(zhǔn)。比如F1分?jǐn)?shù)，用來(lái)測(cè)量不均衡數(shù)據(jù)的精度。因?yàn)槠邢?，所以我想在日后的文章中和大家好好地聊聊這些問(wèn)題。

當(dāng)然，有時(shí)候意外也是猝不及防的， 比如說(shuō)有時(shí)候我們明明每一道作業(yè)習(xí)題都會(huì)做，可是考試分?jǐn)?shù)為什么總是比作業(yè)分低呢？原來(lái)我們只復(fù)習(xí)了作業(yè)題，并沒有深入研究拓展處理作業(yè)所延伸的知識(shí)。這些事情也發(fā)生在機(jī)器學(xué)習(xí)中，我們就把這個(gè)事情稱作為過(guò)擬合。我們這時(shí)候回到誤差曲線，如果這個(gè)時(shí)候我們也把訓(xùn)練的誤差劃出來(lái)，紅色的是訓(xùn)練誤差，黑色的是測(cè)試誤差，訓(xùn)練的誤差比測(cè)試的誤差小，神經(jīng)網(wǎng)絡(luò)雖然學(xué)到了知識(shí)，但是對(duì)于神經(jīng)網(wǎng)絡(luò)太過(guò)于依賴，以至于考試的時(shí)候不能夠隨機(jī)應(yīng)變，沒有成功的吧作業(yè)的知識(shí)拓展開來(lái)，在機(jī)器學(xué)習(xí)中解決過(guò)擬合的方法也有很多，比如L1,L2的正規(guī)化，Dropout方法，神經(jīng)網(wǎng)絡(luò)中有很多的參數(shù)，那么我們應(yīng)該如何更加有效的解決現(xiàn)有的問(wèn)題呢？這個(gè)時(shí)候交叉驗(yàn)證或許就是最好的途徑了，交叉驗(yàn)證不僅可以用于神經(jīng)網(wǎng)絡(luò)的調(diào)參，同時(shí)也可以用于其他的機(jī)器學(xué)習(xí)方法中進(jìn)行調(diào)參，同樣是觀測(cè)你想看的誤差值或者精確度，不過(guò)橫坐標(biāo)不再是你要學(xué)習(xí)測(cè)試的時(shí)間，而是你現(xiàn)在所要測(cè)試訓(xùn)練的參數(shù)，比如說(shuō)神經(jīng)網(wǎng)絡(luò)的層數(shù)，我們逐步增加神經(jīng)網(wǎng)絡(luò)的神經(jīng)層，然后對(duì)每個(gè)層數(shù)的神經(jīng)網(wǎng)絡(luò)進(jìn)行測(cè)量求出最終的誤差值或者精確度，然后表示表示在圖中，我們可以知道，神經(jīng)層層數(shù)越多，計(jì)算機(jī)所消耗的時(shí)間或者資源也就越多，所以我們只需要找到那層滿足誤差要求并且滿足實(shí)驗(yàn)的要求的那一層結(jié)構(gòu)，比如說(shuō)誤差在0.005一下都可以接受，那我們就可以采用這個(gè)0.005所對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

好，這些就是這篇文章對(duì)于檢驗(yàn)神經(jīng)網(wǎng)絡(luò)的一些方法，如果你對(duì)機(jī)器學(xué)習(xí)感興趣的話，歡迎關(guān)注我的簡(jiǎn)書和知乎專欄，也希望可以和大家多多交流，謝謝大家！