直觀解釋SVD

基本概念

SVD(singular value decomposition)，奇異值分解

對稱方陣可以分解成特征值和特征向量的形式：

S = Q \wedge Q ^ { T }

那么類比，任意矩陣m*n可以分解成類似形式嗎？可以，分成奇異值和特征向量。

A = U \Sigma V ^ { \top }

也可以把A寫成rank 1的矩陣之和：

A = \sigma _ { 1 } u _ { 1 } v _ { 1 } ^ { \mathrm { T } } + \sigma _ { 2 } u _ { 2 } v _ { 2 } ^ { \mathrm { T } } + \ldots + \sigma _ { r } u _ { r } v _ { r } ^ { \mathrm { T } }

其中\sigma _ {i}代表奇異值，總共只有r個，全部大于0，其他都為0.

有什么用？

可以把圖片轉為矩陣，通過丟棄不重要的奇異值，進行壓縮：

參考https://www.zhihu.com/question/22237507?sort=created

怎么求解？

image.png
image.png

  • u_i是AA^T的eigenvector

  • \sigma_i^2是AA^T的eigenvalue

上面兩個式子左邊都是對稱方陣可以用特征值分解，然后得到U/\Sigma/V

直觀解釋

奇異值分解實際上把矩陣的變換分為了三部分：

  • 旋轉

  • 拉伸

  • 投影

image.png
image.png

參考：https://www.zhihu.com/question/22237507?sort=created

最后編輯于 ：
?著作權歸作者所有,轉載或內容合作請聯系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成，瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明：文章內容（如有圖片或視頻亦包括在內）由作者上傳并發(fā)布，文章內容僅代表作者本人觀點，簡書系信息發(fā)布平臺，僅提供信息存儲服務。

友情鏈接更多精彩內容