Category Archives: 二次型

正規矩陣的等價條件

本文的閱讀等級:高級 令 為一個 階矩陣。若 ,也就是說 和 可交換,則 稱為正規矩陣 (normal matrix)。例如,實對稱矩陣 、Hermitian 矩陣 、反共軛對稱矩陣 ,以及么正 (unitary) 矩陣 皆為正規矩陣 (見“特殊矩陣 (2):正規矩陣”)。目前已知的正規矩陣等價條件大約有 90 個[1],其中很多條件引用的概念相近,另有少許冷僻艱澀。本文挑選 25 個 (文獻[2]列舉出 70 個) 有關於特徵值、特徵向量、奇異值、跡數、範數、二次型、可交換、不變子空間 (invariant subspace)、正定、譜分解 (spectral decomposition),以及極分解 (polar decomposition) 等較具代表性的等價條件,並給出證明 (部分已刊登的證明僅提供連結)。 Advertisements

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , , , | Leave a comment

AXB=C 有解的充要條件──續篇

本文的閱讀等級:高級 令 是 階, 是 階, 是 階矩陣。考慮線性方程 , 其中 是 階未知矩陣。我們曾經在前文“AXB=C 有解的充要條件”介紹 有解的兩個充要條件。本文再補充一個基於 Moore-Penrose 偽逆矩陣 (pseudo-inverse) 的充要條件,並給出 的通解表達式。對於 階矩陣 ,存在唯一的 階矩陣 ,稱為 Moore-Penrose 偽逆矩陣,使得 ,, 且 (見“Moore-Penrose 偽逆矩陣”)。線性方程 存在解的三個等價充要條件整理於下: 存在矩陣 和 使得 且 ; 且 ; 。

Posted in 線性代數專欄, 二次型 | Tagged , | Leave a comment

答Regan Yuan──關於向量範數的凸性

網友Regan Yuan留言: 老师您好,最近有些问题,还望您不吝赐教,谢谢。请问在凸优化的范畴中,范数 与范数 都是凸的(convex),这是如何证明的呢?我知道这个结论,我想学会证明的方法,了解证明的思路,请您明示。如果 是 与 的范数比值, 是否为convex呢?怎么证明或是判断呢?如果我们将这个关系再度引申,设 ,其中 , 是范数,如果 ,,就是上述的例子,现在 与 均是介于 ,如何证明或判断 在 取值于 时的凸性呢?最近正为凸优化的问题大伤脑筋,还望老师帮我。

Posted in 答讀者問, 線性代數專欄, 二次型 | Tagged , | 3 Comments

答cwj──關於奇異值分解背後的涵義

網友cwj留言: 周老師,您好!我是大陸的學生,幾乎每週都到您的“線代啟示錄”上光顧至少2次 (我是翻牆過來的,大陸這邊網路把控得很嚴)。您學問廣博,同時嚴謹而認真,真是我學習的榜樣!今天給您寫信是有一個問題要問您,我在看文獻時碰到這樣的一段描述: Given a matrix , decompose into , and by SVD, assuming is . Normalize each column of . Each column unit vector becomes the new representation of the corresponding ( is the th column of ). This … Continue reading

Posted in 答讀者問, 二次型 | Tagged , , | 1 Comment

Hermitian 矩陣乘積的性質

本文的閱讀等級:高級 在線性代數理論與應用中,Hermitian 矩陣可謂最重要的一種特殊矩陣。若一 階矩陣 滿足 ,我們稱之為 Hermitian,它具備下列美好的性質 (見“Hermitian 特殊矩陣 (9):Hermitian 矩陣”): 的特徵值 必為實數; 有 個完整的單範正交 (orthonormal) 特徵向量,也就是說, 可么正對角化 (unitarily diagonalizable) 為 ,其中 是么正矩陣,,。 對於 Hermitian 矩陣 和 , 與 未必是 Hermitian (除非 和 是可交換矩陣,見定理一)。本文將探討二個 Hermitian 矩陣乘積的一些性質,包括特徵值、跡數 (trace)、可對角化和相似性 ( 是否相似於 )。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , | Leave a comment

答張盛東──關於三個半正定矩陣積的二次型為零的問題

網友張盛東留言: 老師,請教一個問題。已知 為實對稱半正定 (positive semidefinite) 矩陣,證明:對任意實向量 ,如果二次型 ,則 。這題我想很久都找不到思緒,希望老師指點一下。

Posted in 答讀者問, 二次型 | Tagged , , , , , | 5 Comments

利用 Gramian 矩陣的譜分解推導奇異值分解

本文的閱讀等級:中級 LU 分解是高斯消去法的一種表達形式 (見“LU 分解”),QR 分解記錄 Gram-Schmidt 正交化的結果 (見“Gram-Schmidt 正交化與 QR 分解”)。那麼奇異值分解的根基又是甚麼?答案並非一個演算法,而是一個性質:Gramian 矩陣的譜分解 (spectral decomposition)。矩陣的特徵值也稱為譜,所謂譜分解就是將特徵值分解出來。設 為一 階矩陣,我們稱 階 和 階 為 Gramian 矩陣。不難確認 和 皆為 Hermitian 半正定矩陣 (見“特殊矩陣 (14):Gramian 矩陣”)。Hermitian 矩陣的譜分解稱作么正對角化 (unitary diagonalization):任一 階 Hermitian 矩陣 可表示為 ,其中 是么正矩陣,,且 是實矩陣, … Continue reading

Posted in 線性代數專欄, 二次型 | Tagged , , , | Leave a comment

線代膠囊──奇異值分解

本文的閱讀等級:中級 令 為一個 階複矩陣。下式稱為 的奇異值分解 (singular value decomposition,簡稱 SVD): , 其中 是一個 階么正矩陣 (unitary matrix),滿足 , 稱為左奇異向量; 是一個 階么正矩陣,滿足 , 稱為右奇異向量; 是一個 階矩陣,, 和 ,,稱為奇異值。 若 是實矩陣,只要將 改為 即可,這時 和 稱為正交矩陣 (orthogonal matrix)。下面介紹一個簡短的奇異值分解推導法。

Posted in 線性代數專欄, 二次型 | Tagged , , | 3 Comments

正交 Procrustes 問題

本文的閱讀等級:高級 普洛克路斯忒斯 (Procrustes) 是希臘神話中海神波塞頓 (Poseidon) 的兒子。他在雅典到埃萊夫西納 (Eleusis) 的神聖之路 (The Sacred Way) 上開設一間黑店,向路過的旅人謊稱店內設有一張適合所有人的鐵床。旅客投宿時,普洛克路斯忒斯將身高者截斷雙足,身矮者則強行拉長,使之與床的長短相同。從來沒有一個人的身長與鐵床的長度相同而免於凌遲,因為他暗地裡準備了兩張床[1]。後人於是以 Procrustean 表示「削足適履,殺頭便冠」,意思是將不同的長度、大小或屬性安裝到一個任意的標準。 正交 Procrustes 問題:給定兩個 階實矩陣 和 ,求一個 階實正交矩陣 ,,使得 具有最小值[2],其中 是 Frobenius 範數。   正交 Procrustes 問題是一個最小平方矩陣近似問題,可以這麼解讀: 是旅人, 是鐵床,正交 Procrustean 變換 (包含旋轉和鏡射) 即為施予旅人的肢體酷刑。我們的問題是求出一酷刑使旅人變形後的身長與鐵床的長度最為吻合。以下討論限定於實矩陣。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , | 8 Comments

Hermitian 矩陣的等價條件

本文的閱讀等級:中級 1994年,美國數學月刊 (American Mathematical Monthly) 登載一位學生的提問:在線性代數期末考試,題目要求寫出 Hermitian 矩陣 的定義,他出於匆忙與疲憊沒有寫下正確的答案 ,他的回答是 。這是正確的答案嗎?是的,三年後美國數學月刊登出了讀者提供的五個證明[1]。   若一個 階矩陣 滿足 ,則 稱為 Hermitian 矩陣 (性質見“特殊矩陣 (9):Hermitian 矩陣”)。Hermitian 矩陣有以下等價的陳述 (充要條件): ; 的二次型必為實數,即對於所有的 , 是實數; 么正相似 (unitarily similar) 於一個實對角矩陣,即存在一個么正 (unitary) 矩陣 ,,使得 ,其中 是實數; ; 。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | Leave a comment