第一部分：矩陣的奇異值分解：
矩陣的奇異值分解證明過程中會用到五個定理，先作為補充知識展示這五個定理：
定理一：A是對稱矩陣，則不同特征值對應的特征向量是正交的。
證明：設，是矩陣A的特征向量，且，，為，對應的特征向量，即：
，
則
，
因為A是對稱矩陣，則
所以，
則：
因為
，
所以：
，
即：和是正交的。證畢
————————————————————————————————————————————————————————————————————————————
定理二：矩陣和它的轉置具有相同的特征值
證明：因為：
，
即和有相同的特征多項式，所以有相同的特征值。
————————————————————————————————————————————————————————————————————————————
定理三：半正定矩陣的特征值均大於等於零
證明：這是半正定矩陣的定義
————————————————————————————————————————————————————————————————————————————
定理四：若滿足,則稱是單位正交矩陣
單位正交矩陣有如下的性質：。
————————————————————————————————————————————————————————————————————————————
定理五：若矩陣的秩為r，則和秩均為r。
————————————————————————————————————————————————————————————————————————————
補充完以上五個定理，我們正式開始矩陣的奇異值分解的證明。
設矩陣,矩陣的秩為,且，則矩陣可以分解為如下形式：
，
也可表示為：
證明：無非就是尋找。
顯然，，且這兩個矩陣均是半正定矩陣，且互為轉置，且根據定理五，這兩個矩陣的秩均為。根據定理二和定理三，這兩個矩陣的特征值是相同的，且均大於等於零。我們只用大於零的特征值。設(我們按從大到小排序即：)是它們的不為零的特征值，且對於矩陣對應的單位特征向量為（），對於矩陣對應的單位特征向量為（），即
，。
其實和存在一定的關系，下面就找出這種關系。
因為
，
所以，是的特征向量，又因為也是的特征向量，所以，
，
又因為
，
所以：
。
則：
,
所以，
，
那麼
。
更多詳情見請繼續閱讀下一頁的精彩內容： http://www.linuxidc.com/Linux/2014-06/103494p2.htm