Tag Archives: 實對稱矩陣

Jacobi 特徵值算法

本文的閱讀等級:中級 給定一 階實矩陣 ,使用 Householder 變換可求得一正交矩陣 (orthogonal matrix) ,,使得 為三對角 (tridiagonal) 矩陣,其中 , (見“特殊矩陣 (19):Hessenberg 矩陣”)。此外,如果 是實對稱矩陣,利用旋轉矩陣可求出一正交矩陣 使得 為對角矩陣。因為 正交相似於 , 的主對角元即為 的特徵值。德國數學家雅可比 (Carl Gustav Jacob Jacobi) 於1846年公開這個對角化實對稱矩陣的計算方法,後人稱之為 Jacobi 特徵值算法。 Advertisements

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , | 2 Comments

每週問題 June 16, 2014

這是一個非常重要的命題:實對稱矩陣對應相異特徵值的特徵向量必定正交。 Let be a real symmetric matrix. If and are eigenvectors of , corresponding to distinct eigenvalues, show that and are orthogonal.

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment

轉置與共軛轉置

本文的閱讀等級:初級 矩陣具有加法與純量乘法運算。除了這兩個源自純量算術的運算,矩陣還有一個獨特的運算,稱為轉置 (transpose)。令 為 階矩陣。我們定義 的轉置,記作 ,為一個 階矩陣,其中 。換句話說,將 的列行對調即得轉置矩陣 ,如下例, 。 明顯地,。若 表示成分塊矩陣,則 不僅置換列行分塊,每一個分塊也必須隨之轉置,例如, 。 一般而言,轉置適用於實矩陣。在許多應用中,複矩陣的轉置常會附加共軛運算,稱為共軛轉置 (conjugate transpose)。複數 的共軛定義為 ,其中 且 。類似複數的共軛運算, 的共軛矩陣為 ,共軛轉置則為 ,或簡記為 。例如, 。 如同轉置運算,連續兩次共軛轉置不改變矩陣,。若 是實矩陣,共軛轉置退化成轉置,即 。下面我們討論 (共軛) 轉置與其他矩陣運算的結合,並介紹一些由 (共軛) 轉置所界定的特殊矩陣。

Posted in 線性方程, 線性代數專欄 | Tagged , , , , | 3 Comments

每週問題 February 18, 2013

這是關於實對稱可交換矩陣的特徵值問題。 Let and be real symmetric matrices. If is symmetric, show that every eigenvalue of can be written as , where is an eigenvalue of and is an eigenvalue of .

Posted in pow 二次型, 每週問題 | Tagged , , , | Leave a comment

每週問題 February 11, 2013

這是從實對稱矩陣的行列式判斷二次型問題。 Let be an real symmetric matrix. If , show that for some .

Posted in pow 二次型, 每週問題 | Tagged , , | Leave a comment

共變異數矩陣與常態分布

本文的閱讀等級:中級 常態分布 (normal distribution),也稱高斯分布 (Gaussian distribution),其機率密度函數為 , 其中 是平均數 (mean), 是變異數 (variance)。對於 ,多變量常態分布的形式如下 (見“ 多變量常態分布”): , 其中 是平均數向量, 是 階共變異數矩陣 (covariance matrix), 是 的行列式。常態分布是一種應用相當廣泛的連續型機率分布,原因之一是大自然產生的變數經常具有常態分布,譬如,某城市成年男子的身高,某田地產出的蘿蔔重量;另外,對於從母體隨機抽取出的樣本,當樣本數增大時,樣本平均數的分布逼近常態分布[1] (見“ 樣本平均數、變異數和共變異數”)。圖1為 的一個常態分布樣本。本文從線性代數觀點探討常態分布與共變異數矩陣的幾何涵義。

Posted in 機率統計 | Tagged , , , , , , , , , , , , , | 5 Comments

半正定矩陣的判別方法

本文的閱讀等級:中級 令 為一個 階實對稱矩陣。若任一非零向量 使得二次型 ,我們稱 是正定 (positive definite) 矩陣 (見“特殊矩陣 (6):正定矩陣”)。若任一 皆滿足 ,則 稱為半正定 (positive semidefinite) 矩陣。本文介紹半正定矩陣的一些判別方法。如欲將本文內容推廣至 Hermitian 複矩陣,僅須將實數系 替換為複數系 ,並且將轉置 替換為共軛轉置 即可。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , , | 2 Comments

答謝一誠──關於判斷正定、負定或未定二次型的問題

網友謝一誠留言: 老師您好,我想請問周老師,關於Quadratic Forms的定理。在 Elementary Linear Algebra (作者Howard Anton,Chris Rorres,第9版,2005),書中Exercise set 9.5 (page 486): 11. In each part, classify the quadratic form as positive definite, positive semidefinite, negative definite, negative semidefinite, or indefinite. (f) 方法一:用此書中定理9.5.2 (page 482) A symmetric matrix is … Continue reading

Posted in 答讀者問, 二次型 | Tagged , , , , , , | 2 Comments

實對稱矩陣特徵值和特徵向量的探索解法

本文的閱讀等級:初級 實對稱矩陣是當今應用最廣的一種特殊矩陣,一方面因為實對稱矩陣「天生」就出現在許多場合 (見“Hermitian 矩陣與實對稱矩陣的一些實例”),另一方面因為它具備一些良好的性質,包括特徵值為實數,而且不論特徵值是否相重,存在完整的單範正交 (orthonormal) 特徵向量集,也就是說,實對稱矩陣可正交對角化 (見“實對稱矩陣可正交對角化的證明”)。本文介紹求解實對稱矩陣特徵值和特徵向量的探索法。這裡所指的探索法包含幾個常用的技巧:(1) 尋找矩陣的特別模式;(2) 觀察出特徵值和特徵向量 (見“肉眼判讀特徵向量”);(3) 選擇有效的變數;(4) 利用對稱性 (泛指一般對稱性);(5) 利用特徵值性質及特徵向量的正交性。為甚麼要特別指定實對稱矩陣?因為實對稱矩陣有完全正交的特徵向量集,這個限制可大大增強探索法的威力。下面選取的例子都具有簡單的形式,甚或包含許多零元,目的在彰顯解決實對稱矩陣特徵分析問題的重要技巧,讀者可以從中歸納出應付其他情況的有效策略。不過,探索法所能解決的問題種類有限,當矩陣尺寸增大或不具備特殊模式時,我們仍須仰賴數值方法。此外,請讀者不要將本文介紹的探索法當作唯一的好方法。在討論之前,我引用拉森 (Loren C. Larson) 的一段話[1]: 一個問題,通常可有幾種解法,並且常有一些明顯不同的探索法。所以不要以「先入為主」之見處理每個問題,更不要帶有某個問題只能用某一種特殊的探索法來求解的框框。提出一個問題時,關鍵是把它解出來。正是用一切方法去解題而累積了經驗,才使人們得到可能解題成功的高度洞察力。

Posted in 特徵分析, 線性代數專欄 | Tagged , , , | 6 Comments

Hermitian 矩陣與實對稱矩陣的一些實例

本文的閱讀等級:初級 令 為一個 階矩陣。若 ,其中 ,即 ,我們稱 為 Hermitian 矩陣 (見“特殊矩陣 (9):Hermitian 矩陣”)。若所有 都是實數,則 ,實 Hermitian 矩陣即為實對稱矩陣。Hermitian 矩陣和實對稱矩陣是目前應用最廣的特殊矩陣,原因有二:它們具備許多美好的特徵分析性質 (見“實對稱矩陣可正交對角化的證明”,“Hermitian 矩陣特徵值的變化界定”),以及它們「天生地」出現在多樣應用場合。下面列舉一些實例,包括 Hessian 矩陣、共變異數矩陣、鄰接矩陣、二次型和雙線性形式。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , , , | Leave a comment