行空間與零空間的互換表達

本文的閱讀等級:初級

對於一 m\times n 階實矩陣 A=\begin{bmatrix}  \mathbf{a}_1&\cdots&\mathbf{a}_n  \end{bmatrix},行空間 (column space) C(A)A 的行向量於 \mathbb{R}^m 中擴張而成的子空間:

C(A)=\mathrm{span}\{\mathbf{a}_1,\ldots,\mathbf{a}_n\}

零空間 (nullspace) N(A) 則是齊次方程 A\mathbf{x}=\mathbf{0} 所有解形成的一個屬於 \mathbb{R}^n 的子空間:

N(A)=\{\mathbf{x}\in\mathbb{R}^n\vert A\mathbf{x}=\mathbf{0}\}

在一般情況下,矩陣行空間採用明確的 (explicit) 建構式 (即擴張) 定義,而零空間則以隱含的 (implicit) 限制條件 (即線性方程組) 來定義。本文探討如何運用簡約列梯形式 (reduced row echelon form) 解決下面兩個子空間互換表達問題:給定 A,將零空間 N(A) 表示成明確的向量集擴張,也就是說,求矩陣 P 使得 C(P)=N(A);另一方面,行空間 C(A) 也可以表示為隱含的限制條件,亦即求矩陣 Q 使得 N(Q)=C(A)

 
考慮下面的 4\times 5 階矩陣

A=\left[\!\!\begin{array}{rrccr}  1 & 4 & 1 & 0 & -2 \\  -1 & -4 & 0 & 1 & 5 \\  2 & 8 & 2 & 1 & -2 \\  1 & 4 & 2 & 2 & 3  \end{array}\!\!\right]

運用高斯消去法化簡 A 得到簡約列梯形式:

R=\left[\!\!\begin{array}{ccccr}  1 & 4 & 0 & 0 & -3 \\  0 & 0 & 1 & 0 & 1 \\  0 & 0 & 0 & 1 & 2 \\  0 & 0 & 0 & 0 & 0  \end{array}\!\!\right]

消去法所執行的基本列運算不改變方程式的解,故 A\mathbf{x}=\mathbf{0} 等價於 R\mathbf{x}=\mathbf{0},亦即 AR 有相同的零空間。觀察得知 R 所對應的齊次方程式為

\begin{aligned} x_1+4x_2-3x_5=0~~&\Rightarrow~~x_1=-4x_2+3x_5\\  x_3+x_5=0~~&\Rightarrow~~x_3=-x_5\\  x_4+2 x_5=0~~&\Rightarrow~~x_4=-2x_5\end{aligned}

我們稱等號左邊的 x_1x_3x_4 為軸變數,等號右邊的 x_2x_5 為自由變數。每個軸變數都被一個方程式鎖定,自由變數則不受方程式控制,故可設 x_2=\alphax_5=\beta,齊次方程 R\mathbf{x}=\mathbf{0} 的完整解則表示為兩個特解的線性組合:

\begin{bmatrix}  x_1 \\  x_2 \\  x_3 \\  x_4 \\  x_5  \end{bmatrix}=\alpha\left[\!\!\begin{array}{r}  -4 \\  1 \\  0 \\  0 \\  0  \end{array}\!\!\right]+\beta\left[\!\!\begin{array}{r}  3 \\  0 \\  -1 \\  -2 \\  1  \end{array}\!\!\right]=\alpha\mathbf{p}_1+\beta\mathbf{p}_2

也就是說,N(A)=N(R)=\mathrm{span}\{\mathbf{p}_1,\mathbf{p}_2\}。由於每一特解對應一自由變數,所有特解構成一線性獨立集。將 \mathbf{p}_1\mathbf{p}_2 合併為一矩陣:

P=\left[\!\!\begin{array}{rr}  -4 & 3 \\  1 & 0 \\  0 & -1 \\  0 & -2 \\  0 & 1  \end{array}\!\!\right]

因此 AP=0A 的零空間即為 P 的行空間,N(A)=C(P),我們稱 PA 的零空間矩陣 (nullspace matrix)。由簡約列梯形式 R 可以得到以下訊息:列數即方程式的總數 (m=4),行數即變數個數 (n=5),軸變數個數 (r=3),和自由變數個數 (f=n-r=2),即知 P 為一 n\times(n-r) 階矩陣。矩陣 A 的「表面尺寸」由其列數 m 和行數 n 決定,但其「真實尺寸」則由軸數 r 決定,因為每個軸列對應一個實際有效的式子,從而鎖定該軸行所對應的變數。所以我們定義矩陣秩 \mathrm{rank}A 為軸的總數,亦即軸列、軸行的個數 (見“你不能不知道的矩陣秩”)。

 
以上零空間矩陣 P 的推導過程還可以加以簡化。若不考慮 R 的零列與 P 的自由變數列,R 的非軸行 (即第 25 行) 恰好對應 P 的兩個行,惟其正負符號相反。令 R 的軸行置於最左邊,P 對應自由變數的列置於最底下,就有以下分塊矩陣形式:

R=\begin{bmatrix}  I_r & F \\  0 & 0  \end{bmatrix},~ P=\begin{bmatrix}  -F \\  I_{n-r}  \end{bmatrix}

其中 Fr\times(n-r) 階分塊。矩陣 P 的每一行都屬於 R 的零空間,就有

RP=R\begin{bmatrix}  \mathbf{p}_1&\cdots &\mathbf{p}_{n-r}  \end{bmatrix}=\begin{bmatrix}  R\mathbf{p}_1&\cdots&R\mathbf{p}_{n-r}  \end{bmatrix}=0

直接計算分塊矩陣乘法也可以得到同樣的結果,

RP=\begin{bmatrix}  I_r & F \\  0 & 0  \end{bmatrix}\begin{bmatrix}  -F \\  I_{n-r}  \end{bmatrix}=\begin{bmatrix}  -F+F \\  0  \end{bmatrix}=0

以分塊形式表現簡約列梯形式的好處是不需要經過解齊次方程 R\mathbf{x}=\mathbf{0} 過程,直接從 R 的形式立即可推得零空間矩陣 P

 
這裡補充 N(R)=C(P) 的證明。因為任一 n-r 維向量 \mathbf{y} 使得 RP\mathbf{y}=\mathbf{0},可知 C(P)\subseteq N(R)。另一方面,假設 \mathbf{x}\in N(R),即 R\mathbf{x}=\mathbf{0}。寫出 \mathbf{x}=\begin{bmatrix} \mathbf{x}_1\\ \mathbf{x}_2 \end{bmatrix},其中 \mathbf{x}_1\mathbf{x}_2 分別是 r 維與 n-r 維向量,則

R\mathbf{x}=\begin{bmatrix} I_r&F\\ 0&0 \end{bmatrix}\begin{bmatrix} \mathbf{x}_1\\ \mathbf{x}_2 \end{bmatrix}=\begin{bmatrix} \mathbf{x}_1+F\mathbf{x}_2\\ \mathbf{0} \end{bmatrix}=\mathbf{0}

即得 \mathbf{x}_1=-F\mathbf{x}_2。所以,\mathbf{x}=\begin{bmatrix} -F\mathbf{x}_2\\ \mathbf{x}_2 \end{bmatrix}=\begin{bmatrix} -F\\ I_{n-r} \end{bmatrix}\mathbf{x}_2=P\mathbf{x}_2,證明 N(R)\subseteq C(P)

 
最後我們回答第二個問題:給定矩陣 A,如何得到 Q 使得 N(Q)=C(A)?根據正交補餘關係 C(A)=N(A^T)^{\perp} (見“線性代數基本定理(二)”),解出 Q 矩陣的關鍵在於 A^T 的零空間矩陣,設為 X,就有 N(A^T)=C(X)。再利用 C(X)^{\perp}=N(X^T),可得

C(A)=N(A^T)^{\perp}=C(X)^{\perp}=N(X^T)

上式表明所求矩陣即為 Q=X^T。另一個想法直接從 QA=0 下手,取轉置即得 A^TQ^T=0,問題因此轉換為計算 A^T 的零空間矩陣 X=Q^T。考慮上例矩陣 A,將 A^T 化簡成簡約列梯形式:

A^T\to\begin{bmatrix}  1&0&0&0\\  0&1&0&1\\  0&0&1&1\\  0&0&0&0\\  0&0&0&0  \end{bmatrix}

即知 A^T 的零空間矩陣:

X=\left[\!\!\begin{array}{r}  0\\  -1\\  -1\\  1  \end{array}\!\!\right]

也就得到

Q=\begin{bmatrix}  0&-1&-1&1  \end{bmatrix}

欲使 A\mathbf{x}=\mathbf{b} 有解,\mathbf{b}=(b_1,b_2,b_3,b_4)^T 必須在 A 的行空間,換句話說,\mathbf{b} 滿足

Q\mathbf{b}=-b_2-b_3+b_4=0

因為零空間矩陣 X 有獨立行向量,可知 k\times mQ 矩陣有線性獨立的列向量,故 \mathrm{rank}Q=k。另外,\mathrm{dim}N(Q)=\mathrm{dim}C(A)=\mathrm{rank}A=r,由秩—零度定理 \mathrm{rank}Q+\mathrm{dim}N(Q)=m, 即得 k=m-r

相關閱讀:
Advertisements
This entry was posted in 線性代數專欄, 向量空間 and tagged , , , , , . Bookmark the permalink.

9 則回應給 行空間與零空間的互換表達

  1. 在路上 說:

    解第二个问题的过程中,在得出A的转置的最简阶梯型后,一眼便可看出其零空间矩阵,这对于人来说没什么问题,但是如果要用某个算式来表达从最简阶梯型矩阵取出零空间矩阵的话,这个算式是什么呢?想了很久很久没有结果,只好向老师请教一下,多谢指教啊

  2. 老羅 說:

    請問老師:
    A^{T}X=0

    X 是\begin{bmatrix} 0\\  -1\\  -1\\  1 \end{bmatrix},可是
    \begin{bmatrix} 0\\  -1\\  -1\\  0 \end{bmatrix}
    可以使A^{T}X=0,有差別嗎?

  3. 老羅 說:

    請問老師:
    A^{T}= \begin{bmatrix} 1 & -1 & 1 & 0 & \\  0 & 1 & 0 & 1 & \\  0 & 0 & 1 & 1 & \\  0 & 0 & 0 & 0 & \\ 0 & 0 & 0 & 0 & \end{bmatrix}
    這不是簡約列梯型式嗎?

發表迴響

在下方填入你的資料或按右方圖示以社群網站登入:

WordPress.com Logo

您的留言將使用 WordPress.com 帳號。 登出 / 變更 )

Twitter picture

您的留言將使用 Twitter 帳號。 登出 / 變更 )

Facebook照片

您的留言將使用 Facebook 帳號。 登出 / 變更 )

Google+ photo

您的留言將使用 Google+ 帳號。 登出 / 變更 )

連結到 %s