http://m.blog.csdn.net/zhongkelee/article/details/44064401
PCA的思想是將n維特征映射到k維上,這k維是全新的正交特征。盡可能的這k維特征覆蓋了原始n維特征的信息。這k維是全新構(gòu)建出來(lái)的特征,并不是原始的n維減去(n-k)維。
具體計(jì)算步驟:
1.計(jì)算n維特征的協(xié)方差矩陣;
2.計(jì)算協(xié)方差矩陣的特征值和對(duì)應(yīng)的特征向量;
3.找出k個(gè)最大的特征值及其對(duì)應(yīng)的特征向量,將原始的m*n特征矩陣(默認(rèn)原始樣本數(shù)為m)乘以這n*k的特征向量矩陣,得到新的k維特征矩陣(m*k)。
具體涉及原理:1.最大方差理論 2.最小二乘法