Tag Archives: 秩─零度定理

矩陣的數值秩

本文的閱讀等級:高級 1879年,德國數學家弗羅貝尼烏斯 (Ferdinand Georg Frobenius) 提出秩 (rank) 作為矩陣所攜帶訊息量的一種測度。一矩陣 的秩,記作 ,定義為最大可逆子陣的階數,即最大非零餘子式 (minor) 的行列式階數,因此也稱為行列式秩。近代線性代數已捨棄行列式定義,改用較富幾何意義的向量空間定義:秩是矩陣的行空間 (column space) 維數,同樣也是列空間 (row space) 維數,換句話說,秩是最大的線性獨立行 (列) 向量數 (見“你不能不知道的矩陣秩”)。一般基礎線性代數教科書多以高斯消去法揭示矩陣秩 (見“利用行列式計算矩陣秩”),但實際數值計算卻不採用高斯消去法,原因在於 並非 的連續函數。舉例來說,。若 ,則 。若 ,則 。這個例子顯示極微小的擾動量便足以造成矩陣秩的跳躍。由於計算機的浮點運算難免引入誤差,我們必須審慎處理矩陣秩的數值計算問題。本文介紹奇異值分解在矩陣秩的擾動分析以及數值計算的應用,原因無他,奇異值分解是現今最可靠的數值秩算法 (另一個有效的算法是計算成本較低的 QR 分解[1])。 Advertisements

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , , , | Leave a comment

線性獨立向量集的判定與算法

本文的閱讀等級:初級 令 為一個向量空間。給定向量集合 ,,若僅存在唯一的數組 使得 , 我們稱 是線性獨立的或線性無關的 (linearly independent),否則稱之為線性相關的或線性相依的 (linearly dependent)。線性獨立集不具有線性相關性,而線性相關集中至少有一個向量可表示為其餘向量的線性組合 (見“線性獨立俱樂部”)。假設 且 為 的一組基底。任一向量 與其參考基底 的座標向量 有一對一的對應關係 (見“同構的向量空間”)。具體地說,若 ,則 。為裨益矩陣運算,我們可以將每一 用座標向量 表示。底下討論針對座標映射後的幾何向量空間 。如欲延伸至 ,將轉置 改成共軛轉置 即可。   對於 ,其中 ,本文探討底下三個問題: 如何判定 是否為一個線性獨立集? 如何從 挑選出最大的線性獨立子集?也就是說,該線性獨立子集包含最多的向量? 如何增添向量至 的最大線性獨立子集使之成為 的一組基底?

Posted in 線性代數專欄, 向量空間 | Tagged , , , , , , | Leave a comment

線性代數在圖論的應用 (二):關聯矩陣

本文的閱讀等級:初級 線性代數在圖論的應用建立於圖的矩陣表達。我們曾在“線性代數在圖論的應用 (一):鄰接矩陣”討論了鄰接矩陣 (adjacency matrix),本文將介紹另一個重要的矩陣表達──關聯矩陣 (incidence matrix)。令 為一個有向圖,其中 是頂點集合, 是有向邊集合。我們以 和 分別表示頂點和邊的總數,即 ,。有序對 表示邊 的起始頂點是 ,終止頂點是 ,即 。我們定義關聯矩陣 為一 階矩陣,其中 且 若 ,其餘元為零[1]。見下例: 此圖的關聯矩陣為 。

Posted in 線性代數專欄, 圖論, 應用之道 | Tagged , , , , , , , , , | Leave a comment

每週問題 July 29, 2013

證明 蘊含 。 Suppose all the matrix multiplications are well defined. Prove the following statements. (a) If , then . (b) If , then .

Posted in pow 向量空間, 每週問題 | Tagged , | Leave a comment

答andy6829──關於實矩陣的列空間是零空間的正交補餘

網友andy6829留言: 周老師您好,我最近從一本書籍 (有關錯誤更正碼的線性區塊碼) 看到作者對某個向量空間的敘述,但我左想右想還是不知道作者想表達的意思是什麼,可以請問老師下列的敘述代表著什麼意思呢? 對任何一個由 個線性獨立的列向量所組成的 矩陣 ,均存在一個由 個線性獨立的列向量組成的 矩陣 (為甚麼?),使得 的列空間的任意向量與 的列向量正交,並且任何與 的列向量正交的向量都在 的列空間中 (為甚麼?): 的列空間等於 的零空間。 我看過您所發表的〈行空間與零空間的互換表達〉,感覺好像和我所要問的問題很類似,但我還是百思不得其解,可以請老師給我一些提示 (hint),好使我了解其中的意義嗎?謝謝周老師的幫忙。

Posted in 答讀者問, 內積空間 | Tagged , , , , , | 1 Comment

最小多項式的計算方法

本文的閱讀等級:高級 令 為一 階矩陣。若多項式 滿足 ,則 稱為 的一個消滅多項式。特徵多項式 是一般最常見的消滅多項式,此即 Cayley-Hamilton 定理 (見“Cayley-Hamilton 定理”)。最小多項式 是另一個特別的消滅多項式,它是 的所有消滅多項式中次數最小者。如果設定多項式的領先係數為 ,稱為首一多項式,則 有唯一的最小多項式。本文介紹三種最小多項式的計算方法:第一個方法來自定義;第二個方法計算 Jordan 形式的最大 Jordan 分塊階數;第三個方法基於循環子空間。為相互參照,我們用下例解說這三種方法的計算過程: 。

Posted in 線性代數專欄, 典型形式 | Tagged , , , , , | 6 Comments

循環向量定理

本文的閱讀等級:高級 令 為一個 階矩陣。對於 維向量 ,如果向量集 構成 的一組基底,則 稱為 的一個循環向量 (cyclic vector)。任一方陣 未必總是存在循環向量,譬如,單位矩陣 ,因為對於所有 ,。本文證明循環向量定理,包含下列等價陳述: 有一個循環向量。 相似於一個相伴矩陣 (companion matrix)。 的最小多項式即為其特徵多項式。 若 和 是可交換矩陣,,則 是由 形成的矩陣多項式,即 , 是一個多項式。

Posted in 線性代數專欄, 典型形式 | Tagged , , , , , , , , , | 6 Comments

線性變換與矩陣的用語比較

本文的閱讀等級:初級 在線性代數中,線性變換 (線性映射) 是矩陣的一種抽象描述,矩陣則是線性變換的具體實現。令 是一個從向量空間 映至向量空間 的變換,其中 稱為定義域 (domain), 稱為到達域 (codomain)。每一個向量 經由 映至 的一個向量 ,稱為 的像 (image)。對於任何 與純量 [1],如果 滿足 則 稱為一個線性變換。若 , 也稱為線性算子 (linear operator)。假設 和 是有限維向量空間, 且 。令 和 分別為向量空間 和 的基底。任一線性變換 可用矩陣乘法表示如下 (見“線性變換表示矩陣”): , 其中 是向量 參考 … Continue reading

Posted in 線性變換, 線性代數專欄 | Tagged , , , , , , , , | 4 Comments

利用 Gramian 矩陣證明行秩等於列秩

本文的閱讀等級:中級 線性代數的基本定理建立在一個重要磐石之上,即矩陣的行秩 (column rank) 等於列秩 (row rank),意思是矩陣的行空間維數等於列空間維數。據此,一 階矩陣 的行秩和列秩通稱為秩,記作 。過去我們曾經在“行秩=列秩”利用矩陣乘法運算證明矩陣 的列空間維數不大於行空間維數,;將不等式的 替換為 ,因為 ,可知 ,因此得證。另外,透過秩分解 (rank decomposition) ,其中 階矩陣 的行向量是 的行空間基底, 階矩陣 的列向量是 的列空間基底,我們也得以目視矩陣的行秩等於列秩 (見“秩分解──目視行秩等於列秩”)。本文再介紹一個優雅的證明,整個論證核心在於 , 其中 是 的共軛轉置, 為 階 Hermitian 矩陣,稱為 Gramian 矩陣 (見“特殊矩陣 (14):Gramian 矩陣”)。

Posted in 線性代數專欄, 向量空間 | Tagged , , , , , , | Leave a comment

可逆矩陣之左逆矩陣等同右逆矩陣的證明

本文的閱讀等級:中級 令 為一個 階矩陣。若存在一個 階矩陣 使得 且 ,我們稱 是可逆矩陣 (invertible matrix),並稱 為 的逆矩陣 (inverse,或稱反矩陣),記作 。以上是多數線性代數教科書採用的逆矩陣定義。為了使定義完備,滿足前述關係的 必定由 唯一決定。假設 有左逆矩陣 使得 ,且 有右逆矩陣 使得 ,運用矩陣代數不難證明左逆矩陣 等同右逆矩陣 ,如下: 。 傳統的逆矩陣定義聲明 的左逆矩陣和右逆矩陣同時存在,但既然可逆矩陣的左逆和右逆確係相同,那麼何不採行更簡明的定義方式?譬如,若存在一個 階矩陣 使得 , 即為 的逆矩陣。如果我們接受這個新定義,緊接著就應當證明:若 ,則 。不過,證明過程不得假設 的左逆矩陣存在,否則新定義便與傳統定義無異。下面介紹基於簡約列梯形式、矩陣秩、基底、線性變換和 Cayley-Hamilton 定理的不同證明方法。如果讀者知道其他證法,也歡迎補充添加。

Posted in 線性代數專欄, 向量空間 | Tagged , , , , , , | Leave a comment