當(dāng)訓(xùn)練集確定之后,輸入層結(jié)點數(shù)和輸出層結(jié)點數(shù)隨之而確定,首先遇到的一個十分重要而又困難的問題是如何優(yōu)化隱層結(jié)點數(shù)和隱層數(shù)。實驗表明,如果隱層結(jié)點數(shù)過少,網(wǎng)絡(luò)不能具有必要的學(xué)習(xí)能力和信息處理能力。反之,若過多,不僅會大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性(這一點對硬件實現(xiàn)的網(wǎng)絡(luò)尤其重要),網(wǎng)絡(luò)在學(xué)習(xí)過程中更易陷入局部極小點,而且會使網(wǎng)絡(luò)的學(xué)習(xí)速度變得很慢。隱層結(jié)點數(shù)的選擇問題一直受到神經(jīng)網(wǎng)絡(luò)研究工作者的高度重視。
方法1:
fangfaGorman指出隱層結(jié)點數(shù)s與模式數(shù)N的關(guān)系是:s=log2N;
方法二:
Kolmogorov定理表明,隱層結(jié)點數(shù)s=2n+1(n為輸入層結(jié)點數(shù));
方法三:
s=sqrt(0.43mn+0.12nn+2.54m+0.77n+0.35)+0.51
(m是輸入層的個數(shù),n是輸出層的個數(shù))。