由簡約列梯形式判斷線性方程解的結構

本文的閱讀等級：初級

給定一 $m\times n$ 階實矩陣 $A$ ，線性方程 $A\mathbf{x}=\mathbf{b}$ 的解有哪些可能性？對於任意 $m$ 維向量 $\mathbf{b}$ ，解是否存在？又是否唯一？或者說解的結構為何？從矩陣 $A$ 的簡約列梯形式 (reduced row echelon form) $R$ ，我們可以回答上述關於解的結構問題。看這個例子：

$A=\begin{bmatrix} 1&2&1&3\\ 1&2&2&5\\ 1&2&3&7\end{bmatrix}$

利用高斯—約當法可以得出矩陣 $A$ 的簡約列梯形式 (見“高斯─約當法”)，如下：

$R=\begin{bmatrix} 1&2&0&1\\ 0&0&1&2\\ 0&0&0&0\end{bmatrix}$

此例中， $R$ 包含三類元素：

$R$ 的軸行 (pivot column，包含軸的行) 為第 1，3 行， $R$ 的軸列 (pivot row，包含軸的列) 為第 1，2 列，將所有同位於軸行和軸列的元挑出來，可以合成一個 2 階單位矩陣，得知 $\mathrm{rank}A=2$ 。
$R$ 的非軸行 (即第 2，4 行) 對應齊次方程式組 $R\mathbf{x}=\mathbf{0}$ 的自由變數。
$R$ 包含一零列，置於最底。

為方便說明，我們可以置換變數使軸變數居左，具體地說，上例的簡約列梯形式右乘一排列矩陣 (permutation matrix) 可得

$\begin{bmatrix} 1&2&0&1\\ 0&0&1&2\\ 0&0&0&0\end{bmatrix}\begin{bmatrix} 1&0&0&0\\ 0&0&1&0\\ 0&1&0&0\\ 0&0&0&1 \end{bmatrix}=\begin{bmatrix} 1&0&2&1\\ 0&1&0&2\\ 0&0&0&0 \end{bmatrix}$

在不失一般性原則下，我將簡約列梯形式的軸行置於最左邊，並用分塊矩陣表示如下：

$R=\begin{bmatrix} I_{r}&F\\ 0&0\end{bmatrix}$

注意， $I_r$ 是 $r$ 階單位矩陣， $r=\mathrm{rank}A$ ， $F$ 是 $r\times (n-r)$ 階矩陣，最底共有 $(m-r)$ 個零列。 $R$ 的型態直接告訴我們解的結構，分為四種情況，利用秩—零度定理 (見“線性代數基本定理 (一)”) 可以完整解讀線性方程解的唯一性和存在性。

情況一： $r=n$ ， $r<m$

$R=\begin{bmatrix} I_{r}\\ 0\end{bmatrix}$

矩陣 $R$ 不含分塊 $F$ ，表示不存在自由變數，零空間 $N(A)=N(R)=\{\mathbf{0}\}$ ，這確定了解的唯一性。又因 $r<m$ ，行空間 $C(A)$ 其維數為 $r$ ，故無法充滿整個 $\mathbb{R}^m$ ，這使得解未必存在 (除非 $\mathbf{b}$ 屬於 $C(A)$ )。綜合零空間與行空間性質，得知方程式可能無解或僅有唯一解。

情況一

情況二： $r=m$ ， $r<n$

$R=\begin{bmatrix} I_{r}&F \end{bmatrix}$

矩陣 $R$ 含 $F$ 分塊，表示至少有一個自由變數，零空間 $N(A)=N(R)\neq\{\mathbf{0}\}$ ，這使得解不具唯一性。又因 $r=m$ ，行空間 $C(A)$ 充滿了整個 $\mathbb{R}^m$ ，故對於任意 $\mathbf{b}$ ，方程式總是有無窮多組解。

情況二

情況三： $r=m$ ， $r=n$

$R=I_{r}$

矩陣 $R$ 等於單位矩陣，表示沒有自由變數，零空間 $N(A)=N(R)=\{\mathbf{0}\}$ 。因 $r=m$ ，行空間 $C(A)$ 充滿了整個 $\mathbb{R}^m$ ，故對於任意 $\mathbf{b}$ ，總是有唯一解。

情況三

情況四： $r<m$ ， $r<n$

$R=\begin{bmatrix} I_{r}&F\\ 0&0\end{bmatrix}$

矩陣 $R$ 含 $F$ 分塊，表示至少有一個自由變數，零空間 $N(A)=N(R)\neq\{\mathbf{0}\}$ ，解不具唯一性。因 $r<m$ ，行空間 $C(A)$ 無法充滿整個 $\mathbb{R}^m$ 。對於任意 $\mathbf{b}$ ，方程式可能無解或者存在無窮多組解。

情況四

5 Responses to 由簡約列梯形式判斷線性方程解的結構

aocwind says:

02/05/2010 at 9:57 pm

對結果整理了一下:)
A:m*n matrix
\begin{cases}
\mbox{x has no solution or the unique solution} &\mbox{if }rank(A)=n,rank(A)<m\\
\mbox{x has infinite solutions}&\mbox{if } rank(A)=m,rank(A)<n\\
\mbox{x has the unique solution} &\mbox{if }rank(A)=m=n\\
\mbox{x has no solution or infinite solutions} &\mbox{if } rank(A)<m, rank(A)<n\\
\end{cases}

aocwind says:

02/05/2010 at 10:01 pm

對結果整理了一下:)
$A:m*n matrix \begin{cases} \mbox{x has no solution or the unique solution} &\mbox{if }rank(A)=n,rank(A)<m\\ \mbox{x has infinite solutions}&\mbox{if } rank(A)=m,rank(A)<n\\ \mbox{x has the unique solution} &\mbox{if }rank(A)=m=n\\ \mbox{x has no solution or infinite solutions} &\mbox{if } rank(A)<m, rank(A)<n\\ \end{cases}$
註:文字的敘述部份已經了解了，可以請老師對圖形說明一下嗎?看不太懂老師想透過圖形所表達什麼觀念，謝謝:)

ccjou says:

02/06/2010 at 6:58 am

圖形跟文字說的是同一件事, 文字不容易記得(一般人的存文字記憶半衰期只有一兩個月), 但是只要畫畫圖就明白四種情況分別對應 $N(A)=\{0\}$ (子空間顏色消失), $N(A^T)=\{0\}$ , 兩者都只含0, 以及兩者都包含非零向量. 由各子空間的大小立刻推論出解的情況. 例如, $r=n<m$ , 圖的右邊 $N(A^T)$ 不為零空間就表示 $b$ 可能不在 $C(A)$ 中, 故可能無解. 圖的左邊 $N(A)$ 消失, 就表示沒有零空間解, 故至多僅有一列空間解.

powei says:

06/13/2015 at 4:53 pm

我想問一個問題，一開始舉的Ｒ的例子，後來用block matrix開始論證，但左上角並不是一個二階的單位矩陣。想問說是因為可以交換column嗎？

- ccjou says:
  
  06/13/2015 at 8:36 pm
  
  這麼做的原因是為了便利推導，請見下文說明：
  https://ccjou.wordpress.com/2013/12/27/%E9%9B%B6%E7%A9%BA%E9%96%93%E7%9A%84%E5%BF%AB%E6%8D%B7%E7%AE%97%E6%B3%95/

	輕鬆談如何教學二項式定理？… on 牛頓的二項式定理 (上)
	madhouse on 高斯消去法
	WishMobile on 翻轉 LU 分解
	周子傑 on Karush-Kuhn-Tucker (KKT) 條件
	Cloud Huang on 線性泛函與伴隨
	jeff85898 on 利用分塊矩陣證明 det(AB)=(det A)(det…