1、怎樣評測神經(jīng)網(wǎng)絡(luò)
2、特征標準化
3、挑選好的特征
4、避免無意義的信息
5、激勵函數(shù)
1、怎樣評測神經(jīng)網(wǎng)絡(luò)

分類問題,使用 ?error,accuracy,R2 score ??
回歸問題中使用 R2 score
不均衡問題使用F1 score
避免產(chǎn)生過擬合問題?

過擬合問題解決方案 ,,
L1/L2 regularization
Dropout
2、特征標準化?



3、挑選好的特征?




避免無意義的信息

避免重復(fù)性的信息

避免復(fù)雜的信息


4、激勵函數(shù)?





可以自己寫自己的激勵函數(shù),只要能夠微分就行,能夠讓系統(tǒng)反向傳遞回去。。

多層神經(jīng)網(wǎng)絡(luò)中 不能隨意使用激勵函數(shù),,需要小心點。。會設(shè)計到梯度爆炸和梯度消失的問題 。。

少量hidden layer 激勵函數(shù)可以 多種選擇。。。