引入
- SVD奇異值分解屬于矩陣分解的知識,矩陣分解用白話解釋就是將一個復(fù)雜的矩陣分解成一些特殊形式的矩陣,這些特殊形式的矩陣可能是上三角矩陣、下三角矩陣以及酉矩陣等等,這些特殊的矩陣往往具有一些優(yōu)秀的性質(zhì)。
- 說一下我寫奇異值分解的動機(jī),我寫這篇文章的時候是本科,在研究6D視覺以及機(jī)器人抓取的時候接觸了對極幾何、PnP以及ICP,這些算法在求解時基本都用到了奇異值分解,而大多數(shù)博客默認(rèn)奇異值分解你是會的,但具我所知矩陣論是研究生課程(有的線性代數(shù)書會介紹,但是與我講的有區(qū)別,線性代數(shù)一般在實(shí)數(shù)域下,而矩陣論在復(fù)數(shù)域下),好像控制專業(yè)開的比較多,其他專業(yè)開的比較少,所以這里細(xì)致入微的進(jìn)行介紹。
- 在寫這篇文章的時候,默認(rèn)線性代數(shù)的知識你是會的,超出線性代數(shù)的知識但又是SVD基礎(chǔ)的我會在這篇預(yù)備知識里面介紹,如果預(yù)備知識會的可以直接看正題SVD奇異值分解(2)定義與例子
預(yù)備知識
1.酉矩陣
定義:設(shè),若
滿足
則稱A為酉矩陣。
注:為復(fù)數(shù)域下的符號,如果把復(fù)數(shù)域退化到實(shí)數(shù)域那么酉矩陣也就是正交矩陣,正交矩陣的定義是
,H表示共軛轉(zhuǎn)置,至于為什么要共軛,我不知道,總之共軛是對的。
顯然,當(dāng)A是實(shí)方陣時,酉矩陣就是正交矩陣。
定理:
(1) 若是酉矩陣,則
也是酉矩陣
(2)若A,B是酉矩陣,則AB也是酉矩陣
(3)若A是酉矩陣,則
2.酉等價
定義:設(shè),若存在m階酉矩陣U和n階酉矩陣V,使得
,則稱A與B酉等價。
可以看到酉等價并不局限于方陣,這也是奇異值分解相比于其他分解的優(yōu)點(diǎn)。
3.奇異值
定義:設(shè),
的特征值為:
則稱為A的奇異值
這里解釋一下C的下表為r代表C的秩為r,又因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=rank(A%5E%7BH%7DA)%3Drank(A)%3Dr" alt="rank(A^{H}A)=rank(A)=r" mathimg="1">(定理),所以
的后r個特征值一定為0。
與
有相同的非零特征值(定理),從而A的非零奇異值的個數(shù)恰等于
,
與
有相同的非零奇異值且
與
有相同的非零奇異值,這里可以把
看成
是顯而易見可以得到的。