Tag Archives: 實對稱矩陣

實對稱矩陣特徵值變化界定的典型問題

本文的閱讀等級:中級 線性代數所處理的最佳化問題可概分為兩大類:一是線性方程 的最小平方近似解問題,即求出 使得誤差平方 具有最小值。內積空間理論導出最佳解須滿足正規方程式 (normal equation) (見“ 從線性變換解釋最小平方近似”)。二是特徵分析推衍的二次型約束最佳化問題,即求單位向量 (unit vector) 使得 有最大值,其中 是實對稱矩陣。二次型 的極值產生條件是特徵方程式 ,極值大小則由 的特徵值決定 (見“二次型與正定矩陣”)。因為這個緣故,二次型約束最佳化也稱為實對稱矩陣的特徵值變化界定,下面我們討論兩個典型問題並說明完整的解法。   問題一 (取自 2012年台大資訊所碩士班入學試題):令 為實數,且 ,求 的最大值。 Advertisements

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | Leave a comment

每週問題 September 3, 2012

本週問題是利用不完整的特徵值和特徵向量資訊求一實對稱矩陣。 Pow-Sept-3-12 參考解答 PowSol-Sept-3-12

Posted in pow 二次型, 每週問題 | Tagged | Leave a comment

答chang──關於線性代數的學習改進方法

網友chang留言: 在线代学习中会有这样一个疑问,就是不比数学分析之类的课程,线性代数似乎学了很容易忘?是不是学习上有什么方法可以改进吗?   答曰: 英國數學家哈代 (G. H. Hardy) 晚年時覺得他唯一還能為數學做些貢獻的事是寫一本探討數學的書,藉以表達自己對這門學科的看法,此書名為《一個數學家的辯白》(A Mathematician’s Apology),一開頭就說[1]: 如果一個數學家發現自己在寫關於數學的東西,他會感到很憂傷的。因為數學家的工作是做實事,比如證明新定理,使數學有所發展,而不是談論自己或別的數學家幹了些甚麼。 政治家蔑視時事評論家;畫家蔑視藝術評論家;生理學家、物理學家或數學家一般都有類似的感覺。做事者對評論者的蔑視是最深刻的,總的來看也是最合理的。解釋、評論、鑑賞是次等工作。 或許在一流數學家眼中,解釋 (exposition)、評論 (criticism) 和鑑賞 (appreciation) 是次等工作,但是對於研習數學 (特別是線性代數) 的人來說,這些卻都是最重要的實事。

Posted in 答讀者問, 內積空間 | Tagged | 6 Comments

基於矩陣秩的實對稱矩陣可對角化證明

本文的閱讀等級:高級 實對稱矩陣可正交對角化 (orthogonally diagonalizable),詳細討論請參閱“實對稱矩陣可正交對角化的證明”和“特殊矩陣(2):正規矩陣”,這篇短文僅證明部分命題:實對稱矩陣可對角化。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | Leave a comment

實對稱矩陣可正交對角化的證明

本文的閱讀等級:中級 實對稱矩陣是應用最廣的一種特殊矩陣,主要原因在於實對稱矩陣可表達二次型且出現於許多應用領域 (見“二次型與正定矩陣”,“Hermitian 矩陣與實對稱矩陣的一些實例”)。實對稱矩陣具備美好的性質:特徵值皆為實數,並有完整的單範正交 (orthonormal) 特徵向量,也就是說,實對稱矩陣可正交對角化 (orthogonally diagonalizable)。令 為一個 階實對稱矩陣且 為 的特徵值。所謂正交對角化是指存在一個實正交矩陣 (orthogonal matrix) ,,使得 ,其中 的行向量 (column vector) 是 的特徵向量。實對稱矩陣屬正規 (normal) 矩陣家族的一員,滿足 ,這裡 代表共軛對稱。正規矩陣的標記性質是可么正對角化 (unitarily diagonalizable),即 ,其中 是么正 (unitary) 矩陣,滿足 ,因此立刻得知實對稱矩陣可正交對角化 (見“特殊矩陣 (2):正規矩陣”)。本文介紹另一個不常見於教科書的證明方法,此法結合了一些重要的線性代數分析技巧,包括不變子空間 (invariant subspace)、正交補餘 (orthogonal complement),以及分塊矩陣運算,值得讀者詳加探究。本文內容可以直接推廣至 Hermitian 矩陣,你只要將 … Continue reading

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , , | 38 Comments

每週問題 October 4, 2010

這是關於實對稱矩陣其各元之和的性質證明問題。 Pow-Oct-4-10 更新解答 PowSol-Oct-4-10

Posted in pow 線性方程與矩陣代數, 每週問題 | Tagged | 11 Comments

Cholesky 分解

本文的閱讀等級:中級 任何一個實對稱正定矩陣 都可唯一分解為 (若 為 Hermitian 正定矩陣,則有 ),其中 是下三角矩陣且主對角元皆為正數。這個分解式稱為 Cholesky 分解,由法國砲兵軍官喬列斯基 (André-Louis Cholesky) 所提出,當初的發明動機是為了解決測地計算問題。喬列斯基本人從未公開發表他的演算法,他於1918年的一場戰事中身亡,之後經口耳相傳,這個卓越的矩陣分解法才逐漸為時人所知。本文從 LU 分解推導 Cholesky 分解,並介紹一個演算法。

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , | 20 Comments

肉眼判讀特徵向量

本文的閱讀等級:初級 令 為一個 階矩陣。多數線性代數教科書按照下列步驟計算特徵值與特徵向量: 設特徵方程 ,其中 是特徵值, 是對應的特徵向量。將特徵方程改寫為 ,此式的意義是 的零空間 (稱為特徵空間) 包含非零向量,也就是說, 是不可逆的,以行列式表示的等價條件式為 。 將 階行列式 展開,便得到一個 次多項式 ,稱為 的特徵多項式。解出 的 個根,此即特徵值 (包含相重特徵值)。 對於每一個相異特徵值 ,找出特徵空間 的基底,也就是對應 的特徵向量。

Posted in 特徵分析, 線性代數專欄 | Tagged , , , | 7 Comments

特殊矩陣 (13):反對稱矩陣

本文的閱讀等級:中級 若 階矩陣 滿足 ,即 ,我們稱 為反對稱矩陣 (anti-symmetric) 或斜對稱矩陣 (skew-symmetric)。因為 ,反對稱矩陣的主對角元必為零,推得 。下為反對稱矩陣一例: 。 僅由外表很難一窺反對稱矩陣蘊含的性質,下面我們探討反對稱矩陣在向量空間、行列式、特徵值以及矩陣函數的一些表現。在一般情況下,反對稱矩陣限定於實矩陣,推廣至複矩陣則將轉置替換為共軛轉置,這時稱為斜─Hermitian 矩陣。

Posted in 特殊矩陣, 線性代數專欄 | Tagged , , , , , , | 25 Comments

奇異值分解的幾何意義

本文的閱讀等級:高級 理解線性變換 的一個有效途徑是透過解釋其幾何意義來呈現向量從空間 經過 映射至空間 的變化性質。實際作法可由兩方面著手,一是在輸入空間 和輸出空間 中分別挑選出適當的基底,藉由基底之間的映射關係解析線性變換,這個結果稱為對角化;二是固定輸入向量 的某些幾何性質,從觀察輸出向量 的變化情況來瞭解 的作用。本文採用上述兩種方法解說奇異值分解 (singular value decomposition,簡稱 SVD) 的幾何意義 (見“奇異值分解 (SVD)”)。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , | 10 Comments