Tag Archives: 奇異值

每週問題 April 30, 2012

本週問題是運用奇異值分解計算 和 的函數值,如行列式,跡數,零空間維數,以及線性變換 的極大化問題。 Pow-April-30-12 參考解答 PowSol-April-30-12 Advertisements

Posted in pow 二次型, 每週問題 | Tagged , | Leave a comment

聯繫特徵值與奇異值的引線矩陣

本文的閱讀等級:高級 令 為一個 階矩陣, 的奇異值定義為 Gramian 矩陣 或 的特徵值的非負平方根 (見“奇異值分解(SVD)”),並以遞減排序表示:,。我們知道任一方陣的特徵值可能是複數,但 Hermitian 矩陣的所有特徵值都是實數 (見“特殊矩陣(9):Hermitian 矩陣”),因此 Hermitian 矩陣的特徵值也可按遞減方式排列。本文介紹一個建立於任意 階矩陣 的 階 Hermitian 矩陣 透過此矩陣,我們可將 Hermitian 矩陣的特徵值結果轉移至任意矩陣的奇異值上,所以視之為聯繫特徵值與奇異值的引線矩陣。

Posted in 線性代數專欄, 二次型 | Tagged , , , , | Leave a comment

條件數

本文的閱讀等級:高級 當一個線性系統受到極微小的擾動即可引發方程解劇烈變化時,我們將無從信任計算結果,便稱它是病態系統 (見“病態系統”)。條件數 (condition number) 是矩陣運算誤差分析的基本工具,它可以度量矩陣對於數值計算的敏感性與穩定性,也可以用來檢定病態系統。本文通過一個簡單的線性方程擾動問題介紹條件數的推導過程,推演工具是矩陣範數 的定義所含的兩個不等式 (見“矩陣範數”): , 。

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , , , , , | 2 Comments

SVD 於矩陣近似的應用

本文的閱讀等級:高級 在一些涉及資料壓縮、特徵抽取或雜音消除的分析應用中,我們常希望得到一個矩陣的最佳近似矩陣,並透過設定矩陣的秩來控制近似誤差,這個問題稱為矩陣近似。詳細的問題陳述如下:若 為一個 階實矩陣,求同尺寸矩陣 使最小化 ,並滿足 且 。奇異值分解 (singular value decomposition) 提供了最佳矩陣近似的答案,由於具備這個特性再加上優異的數值穩定性,奇異值分解已逐漸成為應用最廣泛的矩陣計算法之一。

Posted in 線性代數專欄, 應用之道 | Tagged , , , , , , | 1 Comment

矩陣範數

本文的閱讀等級:中級 幾何向量 的大小表現於其長度 (原點至向量端點的歐氏距離),那麼矩陣 的大小應如何度量呢?矩陣的大小度量稱為矩陣範數 (norm),記為 。佈於相同數系 ( 或 ) 且尺寸相同的矩陣集合構成一個向量空間,因此最直接的度量方式是仿造向量長度來定義矩陣範數。令 階矩陣 的行向量 (column vector) 為 ,其中 。Frobenius 範數定義如下: 。 Frobenius 範數 也可以由下式算得: 。 直接展開計算可驗證上面二式相等: 。 另外,Frobenius 範數與 的奇異值有關。令 ,,,為 的奇異值,其中 。下式成立 (證明見“SVD 於矩陣近似的應用”): 。

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , , , | 5 Comments

奇異值分解的幾何意義

本文的閱讀等級:高級 理解線性變換 的一個有效途徑是透過解釋其幾何意義來呈現向量從空間 經過 映射至空間 的變化性質。實際作法可由兩方面著手,一是在輸入空間 和輸出空間 中分別挑選出適當的基底,藉由基底之間的映射關係解析線性變換,這個結果稱為對角化;二是固定輸入向量 的某些幾何性質,從觀察輸出向量 的變化情況來瞭解 的作用。本文採用上述兩種方法解說奇異值分解 (singular value decomposition,簡稱 SVD) 的幾何意義 (見“奇異值分解 (SVD)”)。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , | 10 Comments

你不能不知道的矩陣秩

本文的閱讀等級:初級 提及矩陣,我們經常以其外表尺寸描述它,例如, 是一個 階矩陣表示 有四個列 (row) 和五個行 (column)[1],總計包含 個元 (entry)。如果矩陣的用途只是像電腦程式裡的陣列或數組 (array) 用來儲存物件,那麼表明幾何尺寸便足以規範其體量。在線性代數中,矩陣不僅是儲存體,它是向量空間之間的線性變換的表達方式。自然地,我們想知道矩陣所代表的線性變換攜帶了多少訊息?淺白一點的說法是矩陣的真實「尺寸」為何?它與線性代數裡的空間概念又有何關聯?

Posted in 線性代數專欄, 向量空間 | Tagged , , , , | 2 Comments

SVD 於剖析線性方程的應用

本文的閱讀等級:高級 考慮線性方程 ,其中 是 階實矩陣, 是 維向量,並設 。在一般情況下,高斯消去法是最普及的標準求解演算法,但假設我們已知矩陣 的奇異值分解 (SVD),那該如何運用這個優勢來計算方程式解?在“通過推導偽逆矩陣認識線性代數的深層結構”,我們曾經討論過這個問題,並從奇異值分解導出僞逆矩陣,本文則針對該文提出迴響及補充,用意是藉由奇異值分解產生的基底剖析線性方程的解。對奇異值分解陌生的讀者,請先參考“奇異值分解 (SVD)”。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , | 3 Comments

奇異值分解 (SVD)

本文的閱讀等級:中級 奇異值分解 (singular value decomposition,以下簡稱 SVD) 被譽為矩陣分解的「瑞士刀」和「勞斯萊斯」[1],前者說明它的用途非常廣泛,後者意味它是值得珍藏的精品。在“線性代數基本定理 (四)”一文,我們介紹了 SVD 的推導,並於矩陣的四個子空間分析平台解釋其幾何涵義,本文簡述 SVD 重點並舉一例說明分解式的計算步驟。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | 43 Comments