1.均值：描述的是樣本集合的中間點(diǎn)。公式如下
2.標(biāo)準(zhǔn)方差：描述的是樣本集合的各個(gè)樣本點(diǎn)到均值的距離之平均，一般是用來(lái)描述一維數(shù)據(jù)的。
3.協(xié)方差:
1)是一種用來(lái)度量?jī)蓚€(gè)隨機(jī)變量關(guān)系的統(tǒng)計(jì)量。
2)只能處理二維問(wèn)題。
3)計(jì)算協(xié)方差需要計(jì)算均值。
4. 方差與協(xié)方差的關(guān)系
方差是用來(lái)度量單個(gè)變量“自身變異”大小的總體參數(shù)，方差越大表明該變量的變異越大
協(xié)方差是用來(lái)度量?jī)蓚€(gè)變量之間“協(xié)同變異”大小的總體參數(shù)，即二個(gè)變量相互影響大小的參數(shù)，協(xié)方差的絕對(duì)值越大，則二個(gè)變量相互影響越大。
5.協(xié)方差矩陣
1)協(xié)方差矩陣能處理多維問(wèn)題；
2)協(xié)方差矩陣是一個(gè)對(duì)稱(chēng)的矩陣，而且對(duì)角線是各個(gè)維度上的方差。
3)協(xié)方差矩陣計(jì)算的是不同維度之間的協(xié)方差，而不是不同樣本之間的。
4)樣本矩陣中若每行是一個(gè)樣本，則每列為一個(gè)維度，所以計(jì)算協(xié)方差時(shí)要按列計(jì)算均值。如果數(shù)據(jù)是3維，那么協(xié)方差矩陣是：
協(xié)方差(i,j)=(第i列所有元素-第i列均值)*(第 j列所有元素-第j列均值)/(樣本數(shù)-1)
下面在給出一個(gè)4維3列樣本的實(shí)例：我們還可以看出，協(xié)方差矩陣都是方陣，它的維度與樣本維度有關(guān)（相等）
6.特征值與特征向量
轉(zhuǎn)載自：http://blog.csdn.net/yangleo1987/article/details/52845912
