
Paste_Image.png
我們可以將均值歸一化理解為特征縮放的另一種方法。
特征縮放和均值歸一化的作用都是為了減小樣本數(shù)據(jù)的波動使得梯度下降能夠更快速的尋找到一條‘捷徑’,從而到達全局最小值。
因此,均值歸一化則是先求得所有樣本的均值u
從而通過如下兩個例子公式或者其他公式

Paste_Image.png
使得
樣本數(shù)據(jù)在更小的范圍內(nèi)變化同樣明顯。
在分母中,我們可以使用樣本的max或者max-min,根據(jù)自身需求,選擇最合適的歸一化方法。