Tag Archives: Gram-Schmidt 正交化

Givens 旋轉於 QR 分解的應用

本文的閱讀等級:中級 給定 平面上的旋轉矩陣 , 向量 表示 在平面上逆時針旋轉 弧度。假設 ,考慮這個問題:如何旋轉向量 至正X軸方向?

Posted in 線性代數專欄, 內積空間 | Tagged , , , , , , | 14 Comments

Cauchy-Binet 公式

本文的閱讀等級:中級 Cauchy-Binet 公式是方陣乘積行列式可乘公式 的推廣。在線性代數理論中,Cauchy-Binet 公式是一個相當實用的行列式計算公式,但多數線性代數課程並未將它列入講授範圍。理解 Cauchy-Binet 公式除了要知道行列式基本性質,還需要一些新的符號與概念。

Posted in 線性代數專欄, 行列式 | Tagged , , , , , | 1 Comment

每週問題 November 2, 2009

這是關於 Gram-Schmidt 正交化,QR 分解,以及求正交投影矩陣的基本問題。 點選問題↓ Pow-Nov-2-09 參考解答↓ PowSol-Nov-2-09

Posted in pow 內積空間, 每週問題 | Tagged , , , | Leave a comment

奇異值分解 (SVD)

本文的閱讀等級:中級 奇異值分解 (singular value decomposition,以下簡稱 SVD) 被譽為矩陣分解的「瑞士刀」和「勞斯萊斯」[1],前者說明它的用途非常廣泛,後者意味它是值得珍藏的精品。在“線性代數基本定理 (四)”一文,我們介紹了 SVD 的推導,並於矩陣的四個子空間分析平台解釋其幾何涵義,本文簡述 SVD 重點並舉一例說明分解式的計算步驟。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | 43 Comments

從幾何向量空間到函數空間

本文的閱讀等級:中級 基礎線性代數課程常將討論的向量空間侷限於有限維幾何向量空間 ,主要的原因有兩個:第一是不需要透過座標映射便可將矩陣結構與向量空間結合在一起;第二是幾何向量空間,譬如 與 是高中座標幾何的延伸,由此較容易建立起向量空間的觀念。本文採用問答方式,一步步系統化地介紹如何將幾何向量空間延伸推廣至函數空間。

Posted in 希爾伯特空間 | Tagged , , , , , , , , | 20 Comments

矩陣三角化的 Schur 定理

本文的閱讀等級:中級 令 是一個 階矩陣, 為 的特徵值 (包含重複特徵值), 為對應特徵值 的特徵向量。我們稱 是可對角化矩陣 (diagonalizable matrix),若 可分解為 , 或表示成 ,其中 階可逆矩陣 的行向量 (column vector) 由特徵向量 組成,即 ,且 是特徵值構成的對角矩陣。不過,任意方陣 未必都可對角化。退而求其次,是否存在可逆矩陣 使得 具有他樣簡單形式?這包含了兩個問題:應否限制 為某種特殊矩陣以便利搜尋?還有所謂的簡單形式究竟為何?以下我們考慮矩陣三角化的問題:設 為么正矩陣 (unitary matrix,或譯為酉矩陣), 是可逆矩陣且 (見“特殊矩陣 (3):么正矩陣 (酉矩陣)”)。令 ,其中 是上三角矩陣。我們將證明任意方陣都可么正三角化 (unitarily triangularizable),意指任意方陣都么正相似於一個上三角矩陣,此三角矩陣的主對角元即為 (同樣也是 … Continue reading

Posted in 特徵分析, 線性代數專欄 | Tagged , , , , , , | 4 Comments

線性代數基本定理 (四)

本文的閱讀等級:中級 線性代數的第四個基本定理與第三個定理有密切的關係,第三個定理說交互乘積矩陣 的特徵向量構成列空間 (row space) 和零空間 (nullspace) 的正交基底,而 的特徵向量則構成行空間 (column space) 和左零空間 (left nullspace) 的正交基底。第四個基本定理將原本參考標準基底的矩陣變換改為參考上述這兩組正交基底,從而得到具有對角形式的矩陣表示式。

Posted in 線性代數專欄, 二次型 | Tagged , , , | 5 Comments

線性代數基本定理 (三)

本文的閱讀等級:中級 線性代數的第一個基本定理說明了實矩陣四個基本子空間的維數關係 (見“線性代數基本定理 (一)”),第二個基本定理表明四個基本子空間的正交補餘性質 (見“線性代數基本定理 (二)”)。依據實矩陣的簡約列梯形式 (reduced row echelon form),我們可以得到四個基本子空間的基底 (見“矩陣的四個基本子空間基底算法”),但我們希望進一步獲得四個子空間的正交基底,這是因為正交基底不論就推導理論或發展應用都極為有效。第三個基本定理講的就是如何求得實矩陣的四個基本子空間的正交基底。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | 19 Comments