Tag Archives: Gram-Schmidt 正交化

每週問題 June 19, 2017

證明一個可逆矩陣存在 QR 分解。 Prove that an invertible matrix can be represented in the form , where is an orthogonal matrix and is an upper triangular matrix. Advertisements

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment

每週問題 June 12, 2017

證明 Gram-Schmidt 正交化定理。 Let be a basis of an inner product space. Prove that there exists an orthogonal basis such that for all .

Posted in pow 內積空間, 每週問題 | Tagged | 1 Comment

Krylov 子空間法──線性方程的數值解法 (一):Arnoldi 與 Lanczos 算法

本文的閱讀等級:高級 令 為一 階複矩陣, 為一非零向量。向量序列 稱為 Krylov 序列,此序列所生成的子空間稱為 Krylov 子空間 (見“Krylov 子空間法”),記為 。 因為 是有限維空間 的一個子空間,當 不斷增大時,Krylov 序列 最終會是一個線性相關集。設 為最小的正整數使得 ,也就是說 為一個線性獨立集且 。因此,存在唯一數組 滿足 。 定義 次多項式 。 因為 ,我們稱 為 相對於 的最小 (消滅) 多項式 (minimal polynomial)。以下考慮 為可逆矩陣。我們可以斷定 ,否則有 ,即存在次數小於 … Continue reading

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , , , , , | 3 Comments

線代膠囊──QR 分解

本文的閱讀等級:中級 假設 階實矩陣 有線性獨立的行向量 (column vector)。如何求得 QR 分解 ,其中 階矩陣 的行向量組成單範正交集 (orthonormal set), 為 階上三角矩陣?   將 和 以行向量表示,並以上三角矩陣 聯繫, 即為 。 乘開上式, 。 我們的問題要解出 和 。但這不是一般所見的線性方程組,該怎麼辦呢?

Posted in 線性代數專欄, 內積空間 | Tagged , , | 22 Comments

每週問題 December 17, 2012

本週問題是利用 Gram-Schmidt 正交化求正交基底函數。 Let be the space of continuous functions on the interval with the inner product defined by . Let . Apply the Gram-Schmidt algorithm to the basis to obtain an orthogonal basis for .

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment

Legendre 多項式

本文的閱讀等級:中級 廣義化或稱一般化,是指將概念的定義予以修改或擴充使其適用於更大的範圍。廣義化是擴展數學理論與應用最常使用的方法之一,線性代數也有許多廣義化的斧鑿痕跡,函數空間(function space)即是一個明顯的例子。函數空間既是向量空間也是內積空間,因此內積空間的性質與運算同樣適用於函數空間(見“從幾何向量空間到函數空間”)。本文運用 Gram-Schmidt 正交化程序推導實多項式空間的一組正交基底──Legendre 多項式,給出一遞迴生成公式,並討論 Legendre 多項式在函數近似的應用。

Posted in 線性代數專欄, 內積空間 | Tagged , , , | 3 Comments

QR 分解的數值計算方法比較

本文的閱讀等級:中級 QR 分解是數值線性代數中具備多種用途的計算工具,主要應用於線性方程、最小平方法和特徵值問題。常見的 QR 分解的計算方法包括 Householder 變換、Givens 旋轉以及 Gram-Schmidt 正交法。本文先回顧 QR 分解的主要性質,介紹 QR 分解於計算最小平方解的應用,並討論上述三種算法的運算量與數值穩定性。

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , | 9 Comments

Gram-Schmidt 正交化改良版

本文的閱讀等級:中級 設 為一個 階實矩陣,,QR 分解 滿足以下兩個條件: 是 階矩陣,其行向量 (column vector) 組成單範正交 (orthonormal) 向量集, 是 階上三角矩陣。Gram-Schmidt 正交化是最常見於一般線性代數教科書的 QR 分解演算法 (見“Gram-Schmidt 正交化與 QR 分解”),以下稱之為古典 (classical) Gram-Schmidt 正交化,簡稱 CGS。不幸的是,當數值計算引入捨入 (roundoff) 誤差時,CGS 最終產生的 矩陣的行向量正交性可能變的很糟,就此觀點而言,CGS 是數值不穩定的。本文介紹 CGS 的一個修改版本,稱為改良 (modified) Gram-Schmidt 正交化,簡稱 MGS[1,2]。

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , | 10 Comments

每週問題 November 29, 2010

這是關於 Gram-Schmidt 正交化和最小平方法的綜合問題,修改自 MIT 考題。 Pow-Nov-29-10 參考解答 PowSol-Nov-29-10

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment

Gram-Schmidt 正交化與 QR 分解

本文的閱讀等級:初級 令 為幾何向量空間 的一個子空間,,。假設 為子空間 的一組已知基底。在一些應用時機,例如最小平方法,我們希望從 建構出另一組單範正交基底 (orthonormal basis) ,亦即每一 且 ,。底下先考慮實幾何向量空間,隨後再推廣至一般內積空間 (見“內積的定義”,“從幾何向量空間到函數空間”)。

Posted in 線性代數專欄, 內積空間 | Tagged , , , , | 6 Comments