Tag Archives: Cholesky 分解

共變異數矩陣與常態分布

本文的閱讀等級:中級 常態分布 (normal distribution),也稱高斯分布 (Gaussian distribution),其機率密度函數為 , 其中 是平均數 (mean), 是變異數 (variance)。對於 ,多變量常態分布的形式如下 (見“ 多變量常態分布”): , 其中 是平均數向量, 是 階共變異數矩陣 (covariance matrix), 是 的行列式。常態分布是一種應用相當廣泛的連續型機率分布,原因之一是大自然產生的變數經常具有常態分布,譬如,某城市成年男子的身高,某田地產出的蘿蔔重量;另外,對於從母體隨機抽取出的樣本,當樣本數增大時,樣本平均數的分布逼近常態分布[1] (見“ 樣本平均數、變異數和共變異數”)。圖1為 的一個常態分布樣本。本文從線性代數觀點探討常態分布與共變異數矩陣的幾何涵義。 Advertisements

Posted in 機率統計 | Tagged , , , , , , , , , , , , , | 5 Comments

半正定矩陣的判別方法

本文的閱讀等級:中級 令 為一個 階實對稱矩陣。若任一非零向量 使得二次型 ,我們稱 是正定 (positive definite) 矩陣 (見“特殊矩陣 (6):正定矩陣”)。若任一 皆滿足 ,則 稱為半正定 (positive semidefinite) 矩陣。本文介紹半正定矩陣的一些判別方法。如欲將本文內容推廣至 Hermitian 複矩陣,僅須將實數系 替換為複數系 ,並且將轉置 替換為共軛轉置 即可。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , , | 2 Comments

Cholesky 分解

本文的閱讀等級:中級 任何一個實對稱正定矩陣 都可唯一分解為 (若 為 Hermitian 正定矩陣,則有 ),其中 是下三角矩陣且主對角元皆為正數。這個分解式稱為 Cholesky 分解,由法國砲兵軍官喬列斯基 (André-Louis Cholesky) 所提出,當初的發明動機是為了解決測地計算問題。喬列斯基本人從未公開發表他的演算法,他於1918年的一場戰事中身亡,之後經口耳相傳,這個卓越的矩陣分解法才逐漸為時人所知。本文從 LU 分解推導 Cholesky 分解,並介紹一個演算法。

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , | 20 Comments

正定矩陣的性質與判別方法

本文的閱讀等級:中級 在“特殊矩陣 (6):正定矩陣”,我們曾經介紹實對稱正定矩陣並解釋其幾何意義,本文將深入研究正定矩陣的一些性質 (必要條件) 與判別方法 (充分條件)。以下討論將我們習慣的實矩陣延伸至複矩陣,對複矩陣不熟悉的讀者,請先參閱“從實數系到複數系”。令 為一個 階共軛對稱矩陣,或稱 Hermitian 矩陣。如果所有的非零向量 滿足 , 我們稱 是正定 (positive definite) 矩陣;如果僅滿足 , 則稱 為半正定 (positive semidefinite) 矩陣。事實上,在複正定與半正定矩陣的定義中, 是 Hermitian 矩陣的假設是多餘的。若對於任一 , 是實數,則 必為 Hermitian 矩陣 (見“特殊矩陣 (9):Hermitian 矩陣”)。但如果 是實矩陣,縱使對於每一個非零向量 都有 ,仍不能保證 是對稱矩陣。例如, 不是對稱矩陣,特徵值為 ,但每一個非零實向量 … Continue reading

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , , , | 11 Comments

每週問題 November 9, 2009

本週問題是有關正定矩陣的 Cholesky 分解。 點選問題↓ Pow-Nov-9-09 參考解答↓ PowSol-Nov-9-09

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment