Tag Archives: 代數重數

可對角化的特殊矩陣

本文的閱讀等級:中級 令 為一個 階複矩陣,。若存在一個同階可逆矩陣 使得 為對角矩陣,其主對角元為 的特徵值,則 稱為可對角化 (diagonalizable), 稱為譜分解 (spectral decomposition,見“可對角化矩陣的譜分解”)。令 為 的相異特徵值組成的集合。下面列舉三個可對角化矩陣 的等價條件: 每一特徵值 的代數重數等於幾何重數 (見“可對角化矩陣與缺陷矩陣的判定”),即 (見“特徵值的代數重數與幾何重數”),這裡 表示矩陣 的零空間 (nullspace); 每一特徵值 的指標 (index) 等於 ,也就是說 的 Jordan 矩陣的每一個 Jordan 分塊的階數為 ,即純量 (見“Jordan 形式大解讀 (上)”); 最小多項式為 ,也就是說 (見“最小多項式 (下)”)。 … Continue reading

Posted in 特徵分析, 線性代數專欄 | Tagged , , , , , | Leave a comment

特徵值的代數重數與幾何重數

本文的閱讀等級:中級 令 為一個 階矩陣。若存在一個非零向量 使得 ,我們稱 是 的一個特徵值, 是對應 的特徵向量。將上式寫為 ,可知 的零空間 (nullspace,也稱為對應 的特徵空間) 包含非零向量,故 是不可逆的,也就是說 。因此,我們定義 的特徵多項式為 ,特徵值 即為 的根。若 有 個相異特徵值 ,,特徵多項式可分解如下: , 其中特徵值 的重根數 稱為代數重數 (algebraic multiplicity)。因為 次多項式 有 個根 (包含重根),。特徵空間 的維數,,稱為 的幾何重數 (geometric multiplicity),也就是對應 的最大線性獨立的特徵向量數。以上是多數線性代數教科書採用的定義,其實代數重數還有另一個較為罕見的定義方式:特徵值 的代數重數等於 … Continue reading

Posted in 特徵分析, 線性代數專欄 | Tagged , , , , , | 10 Comments

冪矩陣的特徵值與特徵向量

本文的閱讀等級:中級 令 為 階矩陣, 為特徵值 (包含相重特徵值), 為對應的特徵向量。如果已知 的所有特徵值和對應的特徵向量,我們能否找出冪矩陣 ,,的所有特徵值和對應的特徵向量?使用 ,計算可得 故知 有特徵值 ,對應的特徵向量是 。這個結果是否表示我們已經找齊了 的特徵值與對應的特徵向量?看下面的例子: 的特徵值為 和 ,對應的特徵向量分別為 和 。然而, 的特徵值為 和 ,對應的特徵向量分別為 , 和 。冪矩陣 的特徵值確實是 ,但對應的特徵向量除了包含 的特徵向量外,還多一個線性獨立的特徵向量 。換一個說法, 不可對角化 (因為不存在 個線性獨立的特徵向量), 卻可對角化。為甚麼會有這樣奇怪的現象?下面我們就來探討冪矩陣的最大線性獨立的特徵向量數增多的原因。

Posted in 線性代數專欄, 典型形式 | Tagged , , , , | Leave a comment

幾何重數不大於代數重數的證明

本文的閱讀等級:中級 給定一個 階矩陣 ,特徵值 是特徵多項式 的根,重根數稱為代數重數 (algebraic multiplicity)。對應特徵值 ,所能找到最大的線性獨立向量數,也就是特徵空間的維數 ,稱為 的幾何重數 (geometric multiplicity)。見下例, 。 上三角矩陣的主對角元為其特徵值,可知 的特徵值為 ;特徵值 的代數重數是 ,特徵值 的代數重數是 。對應特徵值 , 有一個特徵向量 ,幾何重數為 ;對應特徵值 , 有一個特徵向量 ,幾何重數為 。本文利用矩陣三角化證明:對應每一個特徵值,幾何重數必不大於代數重數。(其他證法請參閱“特徵值的代數重數與幾何重數”,“可對角化矩陣與缺陷矩陣的判定”,“拒絕行列式的特徵分析”。)

Posted in 特徵分析, 線性代數專欄 | Tagged , , , | 5 Comments

特殊矩陣 (18):正矩陣

本文的閱讀等級:高級 令 為一 階實矩陣。若每一 ,我們稱 是正矩陣 (positive matrix),記為 。(注意,在其他文章我用 表示 是正定矩陣。) 若每一 ,則 稱為非負矩陣 (nonnegative matrix),記為 。推廣至更一般的情況, 代表每一 , 代表每一 。因為 維實向量可視為 階矩陣,故同樣有正向量和非負向量的概念。相反關係 和 也按類似方式定義。正矩陣和非負矩陣出現於許多應用問題中,例如,馬可夫過程 (見“馬可夫過程”) 和圖論模型的鄰接矩陣 (見“Google 搜尋引擎使用的矩陣運算”,“線性代數在圖論的應用 (一):鄰接矩陣”)。本文介紹 階正矩陣的特徵值和特徵向量性質,這些結果統稱為 Perron 定理[1]。

Posted in 特殊矩陣, 線性代數專欄 | Tagged , , , , , , , , , | 2 Comments

最小多項式的計算方法

本文的閱讀等級:高級 令 為一 階矩陣。若多項式 滿足 ,則 稱為 的一個消滅多項式。特徵多項式 是一般最常見的消滅多項式,此即 Cayley-Hamilton 定理 (見“Cayley-Hamilton 定理”)。最小多項式 是另一個特別的消滅多項式,它是 的所有消滅多項式中次數最小者。如果設定多項式的領先係數為 ,稱為首一多項式,則 有唯一的最小多項式。本文介紹三種最小多項式的計算方法:第一個方法來自定義;第二個方法計算 Jordan 形式的最大 Jordan 分塊階數;第三個方法基於循環子空間。為相互參照,我們用下例解說這三種方法的計算過程: 。

Posted in 線性代數專欄, 典型形式 | Tagged , , , , , | 6 Comments

不使用行列式的特徵值和特徵向量算法 (上)

本文的閱讀等級:中級 一百年前,行列式曾經是一個重要的數學領域。隨著數學發展方向的改變,今天行列式已漸漸遠離線性代數和矩陣理論的中心。但為甚麼絕大多數的近代線性代數教科書仍將行列式納入課程內容?美國數學教授奈林 (Evar D. Nering) 一語道破箇中緣由[1]: 我們介紹行列式理論的一些主題之目的僅為了求一線性變換的特徵值。若不是因為這個用途,我們不會在本書裡討論行列式。 令 是一個 階線性變換表示矩陣。定義 的特徵多項式為 ,特徵值 即是 的根,對應的特徵向量 滿足 。以上是多數教本採用的論述方式。奈林不是唯一對行列式冷感的學者,美國數學教授阿斯勒 (Sheldon Axler) 認為行列式難以理解,不具清晰直覺,且常在缺乏動機的情況下被定義出來。為擺脫行列式,他甚至寫了一本書《線性代數正確完成》(Linear Algebra Done Right) 試圖說服大眾:即便沒有行列式,線性代數照樣伸展自如 (見“拒絕行列式的特徵分析”)。不過,缺少行列式這個工具,阿斯勒並沒有告訴讀者如何計算特徵多項式 (或特徵值)。關於這個問題,他建議大家使用現成的數值計算工具,並說[2]: 不幸的是,對於一典型算子的表示矩陣 (參考任意基底),不存在精確的特徵值計算方法。然而,如果我們幸運地找到一組基底使得參考它的表示矩陣是上三角矩陣,那麼計算特徵值這個問題就很簡單了。 如果我們幸運地找到一組基底使得線性變換參考這組基底的表示矩陣是上三角矩陣,那麼線性變換 (或表示矩陣) 的特徵值即為上三角矩陣的主對角元。或許要找到一組能夠將矩陣三角化的基底需要一點運氣,但現今確實存在可使矩陣分塊三角化的基底計算方法[3-4]。由於此法產生的分塊上三角矩陣具備特殊的型態,從主對角分塊立刻得知特徵多項式,不僅如此,一旦確定了特徵值,僅需少量的計算即可求出特徵向量。下面我就為讀者介紹這個鮮為世人所知的不使用行列式 (也不倚靠運氣或個人修為) 的特徵值和特徵向量算法。

Posted in 特徵分析, 線性代數專欄 | Tagged , , , , , | 12 Comments

廣義收斂矩陣

本文的閱讀等級:高級 令 為一 階矩陣, 為其特徵值。若譜半徑 ,即所有特徵值都滿足 ,可以證明 ,我們稱 為收斂矩陣 (見“譜半徑與矩陣範數”)。考慮一般廣義收斂矩陣 使得 存在,但不必是零矩陣。運用 Jordan 形式分析可以推導出廣義收斂矩陣的存在條件及其收斂形式。設 的 Jordan 形式為 ,就有 。 Jordan 矩陣 為基本 Jordan 分塊 的直和,故冪矩陣 為 的直和 (見“Jordan 形式大解讀(上)”)。對於每一基本 Jordan 分塊 ,若 全都存在,則 存在,即知 存在。既然 的存在條件等同於 的存在條件,下面我們將焦點轉移至基本 Jordan 分塊的冪矩陣。

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , | 6 Comments

基於矩陣秩的實對稱矩陣可對角化證明

本文的閱讀等級:高級 實對稱矩陣可正交對角化 (orthogonally diagonalizable),詳細討論請參閱“實對稱矩陣可正交對角化的證明”和“特殊矩陣(2):正規矩陣”,這篇短文僅證明部分命題:實對稱矩陣可對角化。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | Leave a comment

Jordan 形式大解讀之尋找廣義特徵向量

本文的閱讀等級:高級 令 為一 階矩陣。我們曾經在“Jordan 形式大解讀(下)”發展了一個 Jordan 形式演算法,得到 Jordan 矩陣 與可逆矩陣 並使 ,簡述於下: 求出 的所有相異特徵值 ,,特徵值 的代數重數 ,以及幾何重數 。 針對每一相異特徵值 ,找出 階超級 Jordan 分塊 ,它包含 個基本 Jordan 分塊,所有的 的直和即為 Jordan 矩陣 。 對於 的每個相異特徵值 ,根據步驟 (2) 得到的超級 Jordan 分塊 ,解出對應各基本 Jordan … Continue reading

Posted in 線性代數專欄, 典型形式 | Tagged , , , , | 13 Comments