答andy6829──關於實矩陣的列空間是零空間的正交補餘

網友andy6829留言：

周老師您好，我最近從一本書籍 (有關錯誤更正碼的線性區塊碼) 看到作者對某個向量空間的敘述，但我左想右想還是不知道作者想表達的意思是什麼，可以請問老師下列的敘述代表著什麼意思呢？

對任何一個由 $k$ 個線性獨立的列向量所組成的 $k\times n$ 矩陣 $G$ ，均存在一個由 $(n-k)$ 個線性獨立的列向量組成的 $(n-k)\times n$ 矩陣 $H$ (為甚麼？)，使得 $G$ 的列空間的任意向量與 $H$ 的列向量正交，並且任何與 $H$ 的列向量正交的向量都在 $G$ 的列空間中 (為甚麼？)： $G$ 的列空間等於 $H$ 的零空間。

我看過您所發表的〈行空間與零空間的互換表達〉，感覺好像和我所要問的問題很類似，但我還是百思不得其解，可以請老師給我一些提示 (hint)，好使我了解其中的意義嗎？謝謝周老師的幫忙。

答曰：

這段論述是線性代數的一個重要定理，它說明了矩陣的基本子空間之間的正交補餘關係 (見“線性代數基本定理 (二)”)。所謂正交補餘是指向量空間 $\mathcal{V}$ 中兩個子空間 $\mathcal{X}$ 和 $\mathcal{Y}$ 滿足 $\mathcal{X}\perp\mathcal{Y}$ 和 $\dim\mathcal{X}+\dim\mathcal{Y}=\dim\mathcal{V}$ ，記為 $\mathcal{X}=\mathcal{Y}^{\perp}$ 或 $\mathcal{Y}=\mathcal{X}^{\perp}$ (見“正交補餘與投影定理”)。令 $A$ 為一 $m\times n$ 階實矩陣。列空間 $C(A^T)$ 和零空間 $N(A)$ 是 $\mathbb{R}^n$ 的子空間，而行空間 $C(A)$ 和左零空間 $N(A^T)$ 是 $\mathbb{R}^m$ 的子空間。實矩陣 $A$ 的列空間是零空間的正交補餘，表示如下：

$C(A^T)=N(A)^{\perp}$ 或 $N(A)=C(A^T)^{\perp}$ 。

對矩陣取轉置，可知任一實矩陣的行空間是左零空間的正交補餘：

$C(A)=N(A^T)^{\perp}$ 或 $N(A^T)=C(A)^{\perp}$ 。

如欲推廣上述性質至複矩陣，只要將轉置運算 $(\cdot)^T$ 以共軛轉置 $(\cdot)^{\ast}$ 取代即可。不過， $C(A^{\ast})$ 不能稱為 $A$ 的列空間，正確的說法是 $A^{\ast}$ 的行空間。

下面給出詳細證明。令 $G$ 為一 $k\times n$ 階實矩陣，且 $G$ 的列向量構成 $\mathbb{R}^n$ 中一線性獨立向量集。因為 $\mathbb{R}^n$ 至多僅容納包含 $n$ 個向量的線性獨立集，故可推斷 $k\le n$ 。對於任一 $\mathbf{x}\in N(G)$ ， $G\mathbf{x}=\mathbf{0}$ ，就有

$\mathbf{x}^T(G^T\mathbf{y})=(G\mathbf{x})^T\mathbf{y}=\mathbf{0}^T\mathbf{y}=0$ ，

可知 $\mathbf{x}\perp G^T\mathbf{y}$ 。因為 $\mathbf{y}$ 是任意向量，故推論 $N(G)\perp C(G^T)$ 。此外，矩陣的行秩等於列秩 (見“行秩=列秩”)，也就是說，矩陣秩等於行空間維數，也等於列空間維數，即 $\mathrm{rank}G=\dim C(G)=\dim C(G^T)=k$ 。利用秩─零度定理 (見“線性代數基本定理 (一)”)， $\mathrm{rank}G+\dim N(G)=n$ ，可得 $\dim C(G^T)+\dim N(G)=n$ 。合併以上結果，即證明 $C(G^T)=N(G)^{\perp}$ 。令 $H$ 為一 $(n-k)\times n$ 階實矩陣，且 $H$ 的列向量由 $G$ 的零空間 $N(G)$ 的基底所構成 (因為 $\dim N(G)=n-k$ )。因此， $H$ 的列向量組成一線性獨立集， $H$ 的列空間即為 $G$ 的零空間， $C(H^T)=N(G)$ 。使用正交補餘性質， $C(H^T)=N(H)^{\perp}$ 和 $N(G)=C(G^T)^{\perp}$ ，可得 $N(H)^{\perp}=C(G^T)^{\perp}$ 。所以， $N(H)=C(G^T)$ ，證明 $H$ 的零空間等於 $G$ 的列空間。因為列空間 $C(G^T)$ 中任一向量 $G^T\mathbf{z}$ 滿足 $HG^T\mathbf{z}=0$ ，故可推論 $HG^T=0$ ，取轉置即得 $GH^T=0$ 。

下面舉一例說明：考慮 $3\times 5$ 階矩陣

$G=\left[\!\!\begin{array}{ccccc} 1&1&1&1&1\\ 1&2&3&4&5\\ 1&1&1&2&2 \end{array}\!\!\right]$ 。

對 $G$ 執行基本列運算，化簡至簡約列梯形式：

$R=\left[\!\!\begin{array}{ccrcr} 1&0&-1&0&-1\\ 0&1&2&0&1\\ 0&0&0&1&1 \end{array}\!\!\right]$ ，

可知 $G$ 的 3 個列向量組成一線性獨立集 (因為 $R$ 有 3 個軸列)。根據 $R$ 的型態立刻得到 $2\times 5$ 階零空間矩陣 (nullspace matrix，見“行空間與零空間的互換表達”)

$H=\left[\!\!\begin{array}{crcrc} 1&-2&1&0&0\\ 1&-1&0&-1&1 \end{array}\!\!\right]$ ，

使得 $N(G)=C(H^T)$ 。利用正交補餘性質，即有 $C(G^T)=N(H)$ ， $G$ 的列空間等於 $H$ 的零空間。

1 Response to 答andy6829──關於實矩陣的列空間是零空間的正交補餘

andy6829 says:

03/16/2013 at 12:49 pm

遲來的感謝～謝謝周老師指點迷津。:)

	陳倍恩 on 線性代數的第一堂課──矩陣乘法的定義
	輕鬆談如何教學二項式定理？… on 牛頓的二項式定理 (上)
	madhouse on 高斯消去法
	WishMobile on 翻轉 LU 分解
	周子傑 on Karush-Kuhn-Tucker (KKT) 條件
	Cloud Huang on 線性泛函與伴隨