Tag Archives: Frobenius 範數

主成分分析與低秩矩陣近似

本文的閱讀等級:高級 假設我們有一筆維數等於 ,樣本大小為 的數據 ,也就是說每一個數據點 包含 個變數的量測值。沿用統計學與數據科學的慣例 (見“數據矩陣的列與行”),定義 階數據矩陣 , 其中 代表第 個變數的第 個量測值,,。在不造成混淆的情況下,以下用 表示第 個變數。如果數據包含大量的變數 ( 很大) 或者變數之間存在顯著的共線性關係[1],你可以設計一個從向量空間 映至 的線性映射,,數據點 經映射後的像 (image) 構築另一筆變數較少且兩兩變數不存在線性相關性的新數據,這個方法稱為主成分分析 (principal components analysis)。從統計學的觀點,主成分分析的目的是找到少量的新變數,稱為降維 (dimension reduction),同時盡可能地保留變數的總變異量。從線性代數的觀點,主成分分析其實是一種矩陣近似法,我們希望得到一個最近似於原數據矩陣 的低秩 (low rank) 同尺寸矩陣。本文證明證明主成分分析與低秩矩陣近似在本質上是相同的問題。 Advertisements

Posted in 線性代數專欄, 應用之道 | Tagged , , , , | Leave a comment

每週問題 February 15, 2016

利用跡數 等價於 證明一些涉及 的代數性質。 Prove the following statements. (a) If is an complex matrix, then , and if and only if . (b) If are complex matrices and , then . (c) If , then . (d) If commutes with … Continue reading

Posted in pow 二次型, 每週問題 | Tagged , | Leave a comment

每週問題 February 9, 2015

證明一特殊矩陣的2-範數等於 Frobenius 範數。 If , show that , where is the 2-norm and is the Frobenius norm.

Posted in pow 二次型, 每週問題 | Tagged , , | 5 Comments

每週問題 December 29, 2014

這是最小平方法應用於矩陣之線性變換的問題。 Let be the vector space formed by real matrices. Let and . Consider the following transformation from to : . Determine a matrix that minimizes , where denotes Frobenius norm.

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment

每週問題 March 3, 2014

這是關於二個半正定矩陣積的跡數與二次型問題。 Let and be real symmetric matrices and let and be positive semidefinite. Prove the following statements. (a) If , then . (b) If for all real , then .

Posted in pow 二次型, 每週問題 | Tagged , , , , | Leave a comment

答張盛東──關於三個半正定矩陣積的二次型為零的問題

網友張盛東留言: 老師,請教一個問題。已知 為實對稱半正定 (positive semidefinite) 矩陣,證明:對任意實向量 ,如果二次型 ,則 。這題我想很久都找不到思緒,希望老師指點一下。

Posted in 答讀者問, 二次型 | Tagged , , , , , | 5 Comments

正交 Procrustes 問題

本文的閱讀等級:高級 普洛克路斯忒斯 (Procrustes) 是希臘神話中海神波塞頓 (Poseidon) 的兒子。他在雅典到埃萊夫西納 (Eleusis) 的神聖之路 (The Sacred Way) 上開設一間黑店,向路過的旅人謊稱店內設有一張適合所有人的鐵床。旅客投宿時,普洛克路斯忒斯將身高者截斷雙足,身矮者則強行拉長,使之與床的長短相同。從來沒有一個人的身長與鐵床的長度相同而免於凌遲,因為他暗地裡準備了兩張床[1]。後人於是以 Procrustean 表示「削足適履,殺頭便冠」,意思是將不同的長度、大小或屬性安裝到一個任意的標準。 正交 Procrustes 問題:給定兩個 階實矩陣 和 ,求一個 階實正交矩陣 ,,使得 具有最小值[2],其中 是 Frobenius 範數。   正交 Procrustes 問題是一個最小平方矩陣近似問題,可以這麼解讀: 是旅人, 是鐵床,正交 Procrustean 變換 (包含旋轉和鏡射) 即為施予旅人的肢體酷刑。我們的問題是求出一酷刑使旅人變形後的身長與鐵床的長度最為吻合。以下討論限定於實矩陣。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , | 8 Comments

Hermitian 矩陣的等價條件

本文的閱讀等級:中級 1994年,美國數學月刊 (American Mathematical Monthly) 登載一位學生的提問:在線性代數期末考試,題目要求寫出 Hermitian 矩陣 的定義,他出於匆忙與疲憊沒有寫下正確的答案 ,他的回答是 。這是正確的答案嗎?是的,三年後美國數學月刊登出了讀者提供的五個證明[1]。   若一個 階矩陣 滿足 ,則 稱為 Hermitian 矩陣 (性質見“特殊矩陣 (9):Hermitian 矩陣”)。Hermitian 矩陣有以下等價的陳述 (充要條件): ; 的二次型必為實數,即對於所有的 , 是實數; 么正相似 (unitarily similar) 於一個實對角矩陣,即存在一個么正 (unitary) 矩陣 ,,使得 ,其中 是實數; ; 。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , | Leave a comment

每週問題 July 1, 2013

這是推導 階矩陣的2-範數與 Frobenius 範數的關係式問題。 Let be a real matrix. Show that where is the 2-norm of and is the Frobenius norm of .

Posted in pow 二次型, 每週問題 | Tagged , | 2 Comments

答f87110jim──關於矩陣的大小與方向

網友f87110jim留言: 老師我想問一個問題,因向量包含有大小跟方向,而矩陣都有包含嗎?那集合裡面的矩陣是向量嗎 (假如此矩陣為3×3,4×4,5×5…)?

Posted in 答讀者問, 向量空間 | Tagged , , | 5 Comments