線代求生指南：矩陣代數篇

求生指南不是完全攻略手冊，注意這個關鍵字──求生，既非戰勝亦非征服。求生指南不是要教你成為專業線代殺手，想要奉獻畢生心力練就絕世武功的朋友，請前往其他訓練機構尋求幫助。我撰寫這份求生指南的目的是提供那些只擁有少許時間與資源的一般大眾──那些拒絕成為下一個線代受害者的良善公民──一個臨危逃生指引。這裡所記載的求生之道絕非紙上談兵，其中部分來自幸運生還者的口述回憶，部分取自我個人的慘痛經驗。不論基本原則、施行方法或戰鬥技巧均已通過無數次嚴苛的現實考驗，普遍被專家學者證明確實有效。有句話說：知識是求生的唯一法寶。這話只說對了一半，剩下來的問題是讀者個人有多堅強的求生意志？

這段文字的靈感來自於 The Zombie Survival Guide (中譯：打鬼戰士1：世界末日求生指南) 的前言。不必懷疑，這書正放在我的書架上。

From http://fs01.androidpit.info/ass/x24/1166924-1290452406792.jpg

什麼是矩陣？這些怪物是如何被創造出來的？它們代表什麼意義？它們具有哪些運算又有何用途？在討論求生技巧之前，首先必須認識這個讓我們奮力求生的對象。先看字典的定義：

MATRIX (′metriks, ′mæ-) n, pl MATRICES (′meitri,si:z, ′mæ-) or MATRIXES. A rectanglalr array of elements set out in rows and columns, used to facilitate the solution of problems, such as the transformation of coordinates. Usually indicated by parenthesis: $\left(\begin{matrix} a&b&c\\ d&e&f \end{matrix}\right)$ .

矩陣的英文 matrix 源自拉丁文，原意是子宮或母體。矩陣絕對不是巫毒妖術、超自然現象，或外星人拜訪地球後留給人類的禮物。英國數學家凱萊 (Arthur Caylay, 1821-1895) 是第一位「發現」矩陣的人，他將矩陣與行列式（另一個怪物，發現的時間比矩陣早了兩百多年）的概念予以分離，視矩陣為單獨的數學物件，並賦予矩陣之間的代數運算。西元 1838-1842 年，凱萊在劍橋三一學院研習文學，閒暇時間則致力發展業餘嗜好——數學，不是玩玩而已，他在 21 歲就發表了第一篇數學論文。從學校畢業之後，為了養家餬口，他踏入法律界從事 14 年的律師工作，但是他的主要興趣還是在數學，行使律師職務期間一共發表了近 300 篇論文。西元 1857 年，凱萊發表了〈矩陣理論備忘錄〉(A memoir on the Theory of Matrices)，這篇論文被後人公認是近代矩陣理論與線性代數的創始著作，如老字號糕餅店招牌上寫的：「矩陣堂──創立於西元 1857 年」。

Arthur Cayley (1821-1895) From http://www-history.mcs.st-and.ac.uk/BigPictures/Cayley_5.jpeg

凱萊對知識有極強烈的學習慾，伸手所及的任何文件他都不放過，加上他擁有超乎常人的記憶力，用會走路的百科全書來形容他的博學多聞一點也不誇張。西元 1863 年，他受聘擔任劍橋大學數學系系主任，此後著作更是源源不斷，他常說：「我真的喜歡我的主題。」他終其一生無間斷地從事數學研究直到去世，享年 74 歲。

凱萊發表了驚世之作後的短短數十年間，許多關於矩陣理論和線性代數的主題便如雨後春筍般快速發展，終至今日佔據應用數學的中心地帶。面對如此頑強的對手──天才凱萊與其後進所創建的數學分支，吾輩不必妄自菲薄慨嘆：「嗚呼今固不如古」，亦不需浪費力氣在爭辯「吃泡麵啃雞腿」這種芝麻小事上，而應當專注研習求生法則並且精鍊各種求生技巧。在這過程中，哪怕是血淚付出也值得，畢竟天底下還有什麼事能比忍辱偷生賴活下去，等到有朝一日當了大學教授，再回頭猛釘狠批那些後生晚輩「尸位素餐」^[1]或「吃飽飯等死」^[2]來的更叫人爽快呢？

透視矩陣

心不在焉，視而不見，聽而不聞，食而不知其味。

——禮記‧大學

顧名思義，矩陣外觀為矩形陣式，經常以大寫英文子母簡寫代表，如 $A=[a_{ij}]$ 。辨識矩陣外觀與其特質是求生的首要技能，只要稍加練習即可憑肉眼判斷出一些與對稱相關的方陣屬性，例如：

■ 對稱矩陣，若 $A=A^T$ ，亦即 $a_{ij}=a_{ji}$ 。

■ 反對稱矩陣，若 $A=-A^T$ ，亦即 $a_{ij}=-a_{ji}$ 。

■ 共軛對稱，或稱 Hermitian 矩陣，若 $A=A^{\ast}$ ，亦即 $a_{ij}=\overline{a}_{ji}$ 。

■ 反共軛對稱，或稱 skew-Hermitian 矩陣，若 $A=-A^{\ast}$ ，亦即 $a_{ij}=-\overline{a}_{ji}$ 。

培養良好眼力的目的是要能一眼看穿矩陣外觀，日後處於更加險惡的環境時才能洞燭機先找出生路。

練習 1：下面的矩陣何者為對稱？何者為 Hermitian？何者既非對稱也不為 Hermitian？（時間：15 秒）

$\begin{aligned} A&=\begin{bmatrix} 3&1+2i&1-3i\\ 1-2i&4&4+5i\\ 1+3i&4-5i&6 \end{bmatrix}\\ B&=\begin{bmatrix} 3&1+2i&1-3i\\ 1-2i&4i&4+5i\\ 1+3i&4-5i&6 \end{bmatrix}\\ C&=\begin{bmatrix} 3&1+2i&1-3i\\ 1+2i&4i&4-5i\\ 1-3i&4-5i&6 \end{bmatrix}\end{aligned}$

除了視力要佳，強健的消化系統也很重要，目的是要能迅速吸收眼睛所讀到的東西。所謂吸收其實是一種轉移過程，雖然眼睛看見的只是符號，卻要學習將它轉換為腦中實景，由此判斷出矩陣包藏的特質。

練習 2：以下何者為反對稱矩陣（ $A=-A^T$ ）的體內元素特質？何者為反共軛對稱 skew-Hermitian 矩陣（ $A=-A^{\ast}$ ）的體內元素特質？（時間：20 秒）

(a) 對於每個 $i$ ，都有 $a_{ii}=0$ 。

(b) 對於每個 $i$ ， $a_{ii}$ 是純虛數。

透視矩陣運算的內涵需要發揮想像力，這是一項常被人忽略的重要求生技能。實際演練方式是不用紙筆，靜坐默想矩陣運算，但不需明確計算出數值結果。

練習 3：假設 $A$ 是方陣，問下面兩個陳述是對還是錯？（時間：30 秒）

(a) $A+A^T$ 是對稱的

(b) $A-A^T$ 是反對稱的

如果你長期注意力不集中、眼睛看不見、耳朵聽不到、吃東西又覺得沒味道，那麼恐怕無法於指定時間內正確答出任何一個問題。「三折肱，知為良醫」。套在線性代數卻不合適，連續三次小考被當，不代表你會在期末考那天蛻變成為良醫，實情是很可能你也屬於潛在受害高危險群，建議往下仔細讀完求生指南。

遵守規則

嚴禁以下活動：

售賣任何物品或服務，或展示任何物品或服務作售賣用途。
派發任何印刷品。
未經許可之活動、遊行或演說，及其他未經許可之公眾集會。
展示任何旗幟、橫額或其他徽號。
作商業用途的攝影、錄影、任何紀錄、廣播或傳送。
任何妨礙樂園或其聯營設施之運作的行為。

——香港迪士尼樂園規則

凱萊和他的追隨者為矩陣定下了一系列的運算法則，後人無意也無力更改它們，只能默默地接受。這裡包含了幸與不幸，幸運的是大部分的矩陣運算規則和代數無異，不幸的是矩陣運算暗藏了一些與代數不容的法條，若粗心不察，很可能踏入誘捕陷阱。下面就是害人不淺的幾條惡法。

法則 1：矩陣不像代數那樣可以亂乘。

如果 $AB$ 是合法的，那麼一定 $A$ 是 $m\times n$ 階， $B$ 是 $n\times p$ 階，至於 $m$ ， $n$ ， $p$ 是多少則無所謂。天真無邪的人或許對法則 1 不以為意，請看下面的練習問題。

練習 4：判斷以下陳述是否為真？（時間：15 秒）

若 $AB$ 是可逆矩陣，則 $A$ 和 $B$ 都是可逆矩陣。

如果 $A$ 是 $2\times 3$ 階，而 $B$ 是 $3\times 2$ 階，我們還能說 $A$ 和 $B$ 是可逆嗎？這牽涉了一個矩陣求生的必殺技：矩陣的一些屬性附著於其外觀之上。下面舉幾個常見的屬性，加註 * 表示該屬性僅適用於方陣。

可逆*，對稱*，轉置，行列式*，簡約列梯形式，LU 分解，特徵值*，行空間，零空間，奇異值分解

法則 2：矩陣乘法不具有交換律，也就是說 $AB$ 未必等於 $BA$ 。

法則 3：如果 $A$ ， $B$ 皆為可逆， $(AB)^{-1}=B^{-1}A^{-1}$ ，次序顛倒。

多虧師長告誡再三，通常僅見初學者觸犯這二條規定，稍加練習即可改善，問題不大。再看下面的練習題。

練習 5：假設以下乘法皆合法，判斷陳述是否為真？（時間：30 秒）

(a) 若 $AB=0$ ，則 $A=0$ 或 $B=0$ 。

(b) 若 $A^2=A$ ，則 $A=0$ 或 $A=I$ 。

在代數裡，上面兩個陳述都是正確的，但在矩陣代數卻未必如此，我們可以找出很多例子來說明練習 5 的兩個陳述是錯誤的。所以有了下面這個法則，它闡明過於匆促的推展以往經驗可能造成荒唐結果，在論證的邏輯基礎上我們務必小心行事。

法則 4：盲目的將代數世界中的真理移植到矩陣代數只會製造可怕的災難。

善用機會

我又轉念，見日光之下，快跑的未必能贏，力戰的未必得勝，智慧的未必得糧食，明哲的未必得貲財，靈巧的未必得喜悅。所臨到眾人的，是在乎當時的機會。

——傳道書

根據歷史經驗，高段的求生技巧不完全由速度或力氣決定，聰明、講理又靈巧的人也未必總能存活下來。求生的關鍵常在於是否把握住逃命機會，善於使用手邊的逃生工具往往可以創造意想不到的活路。舉例而言，矩陣代數中的乘法結合律外表看似平淡無奇，其實它是矩陣代數中最威猛的緊急逃生工具，問題在於我們是否明暸如何正確地操作它。

乘法結合律： $A(BC)=(AB)C=ABC$

練習 6：判斷下面的關係式是否為真？（時間：一分鐘）

若 $I+A$ 是可逆的， $(I-A)(I+A)^{-1}=(I+A)^{-1}(I-A)$ 。

法則 2 說明了矩陣乘法不具有交換律，但也有特殊型態的矩陣滿足乘法交換律，上式即為一例，稱為 Cayley 變換。利用結合律，只要在等號兩側同時右乘或左乘 $I+A$ 即能證明原命題為真。不過，結合律的使用時機常不很明顯，看下面這個某年台大研究所的入學試題。

練習 7：若 $\mathbf{u}=(1,-1,-1,1,1)^T$ ，計算下式：（時間：二分鐘）

$(I+2\mathbf{u}\mathbf{u}^T)(I+\mathbf{u}\mathbf{u}^T)^{-1}\mathbf{u}=?$

此題和練習 6 不同的是，我們無法在上式左乘或右乘什麼矩陣將 $(I+\mathbf{u}\mathbf{u}^T)^{-1}$ 消去。眼前有兩個選擇，一是設法求出 $(I+\mathbf{u}\mathbf{u}^T)^{-1}$ ，除非你恰巧熟背矩陣和的逆矩陣公式，或精準地猜測出其逆矩陣也有如 $I+c\mathbf{u}\mathbf{u}^T$ 的形式，否則很可能莫名其妙地踏上數值計算的迷途。二是自己想辦法找尋出路。隱藏的求生地道是重設問題，令 $\mathbf{x}=(I+\mathbf{u}\mathbf{u}^T)^{-1}\mathbf{u}$ ，這時使出逃命絕招結合律，在等號兩邊同時左乘 $I+\mathbf{u}\mathbf{u}^T$ ，可得 $(I+\mathbf{u}\mathbf{u}^T)\mathbf{x}=\mathbf{x}+\mathbf{u}(\mathbf{u}^T\mathbf{x})=\mathbf{u}$ 。觀察發現 $\mathbf{x}$ 和 $\mathbf{u}$ 同向，故令 $\mathbf{x}=k\mathbf{u}$ ，再代回上式整理得到 $k+k\Vert\mathbf{u}\Vert^2=1$ ，最後利用給出條件解得 $k=\frac{1}{6}$ ，原題答案是 $(I+2\mathbf{u}\mathbf{u}^T)\frac{1}{6}\mathbf{u}=\frac{1}{6}(\mathbf{u}+2\mathbf{u}(\mathbf{u}^T\mathbf{u}))=\frac{11}{6}\mathbf{u}$ 。

把握機會絕處逢生是求生的不二法門，更重要的是學習自行創造求生機會，有事沒事常問自己：如果我這麼做，那會怎麼樣？

打破成規

陣而後戰，兵法之常，運用之妙，存乎一心。

——宋史‧岳飛傳

舉世太平時期，大家都樂意和別人一樣做個奉公守法的好國民。但是當大逃難來臨時，眾人擠在水洩不通的考場，如果你還食古不化抓著課本規定不放，那註定無藥可救。在非常時期求生肯定要有非常作為，要勇於打破成規甚至幹些非法勾當（這絕不是指舞弊）。

練習 8：下面的增廣矩陣代表一線性方程組，試求其解？（時間：二分鐘）

$\left[\!\!\begin{array}{rrrcr} 17&-5&1&\vline&10\\ -11&4&-1&\vline&-6\\ 33&-8&2&\vline&23 \end{array}\!\!\right]$

有兩個選擇：一是用克拉瑪公式求解，二是用高斯消去法。前者必須計算四個三階行列式，吝於計算的人將放棄此途轉而使用消去法。可惜現實總是殘酷的，一看見軸元的數字， $17$ ，就讓我們頭皮發麻。

在驚悚電影中，柔弱的女主角常在片子結束前的緊急關頭以驚人之舉拯救自己，心一橫她突然將變數 1 和變數 3 對調位置，也就是把係數矩陣的第一行和第三行互換，增廣矩陣因此為

$\left[\!\!\begin{array}{rrrcr} 1&-5&17&\vline&10\\ -1&4&-11&\vline&-6\\ 2&-8&33&\vline&23 \end{array}\!\!\right]$

戲院裡的觀眾為女主角捏了一把冷汗，見她很快地手算化簡：

$\left[\!\!\begin{array}{crrcr} 1&-5&17&\vline&10\\ 0&-1&6&\vline&4\\ 0&2&-1&\vline&3 \end{array}\!\!\right]\sim\left[\!\!\begin{array}{crrcr} 1&-5&17&\vline&10\\ 0&-1&6&\vline&4\\ 0&0&11&\vline&11 \end{array}\!\!\right]$

接著反向迭代得出解 $(3,2,1)$ ，沒忘記要換回原次序 $(1,2,3)$ ，又是個完美的結局。

很多時候，用不著太刻意努力，巧妙地透過隱微之明也能夠柔克剛，弱勝強。此處「柔」指的是優雅而品味的改變情境，「剛」指的則是殘暴且粗俗的照章辦事。求生是一門知識也是一種藝術，既然它是藝術，求生指南就不可能羅列出所有的求生規範。讀者在求生旅程中，若能堅持信守本指南所提供的各項理念與技巧，由「陣而後戰，兵法之常」開始，逐步從實踐中累積經驗，他日定可達到「運用之妙，存乎一心」的最高「苟活」境界。

練習解答

1： $A$ 是 Hermitian， $B$ 既非對稱也非 Hermitian， $C$ 是對稱。

2：(a) 是反對稱，(b) 是 skew-Hermitian。

3：(a) (b) 皆為真。

4：錯，除非 $A$ ， $B$ 都是方陣。

5：(a) (b) 皆不為真。

6：此式為真。同時在等號兩邊右乘 $I+A$ ，就有 $I-A=(I+A)^{-1}(I-A^2)=(I+A)^{-1}(I+A)(I-A)$ 。

7：如前

8：如前

註解：
[1] http://www.cw.com.tw/article/article.action?id=5000943&page=1
[2] http://mag.udn.com/mag/campus/storypage.jsp?f_ART_ID=232378

3 Responses to 線代求生指南：矩陣代數篇

fatcloud says:

10/28/2010 at 5:13 pm

周老師你好
我是個在準備研究所考試的學生
偶然發現這樣一個園地真的很開心呢

話說我在研究 I+uu^T 那題時
（第一次看時寫不大出來，過了兩天才研究出端倪的）
發現任何矩陣加上 I 都不會改變其特徵向量
而且 uu^T 這個矩陣的特徵向量就是 u 以及和它垂直的所有向量
（又它是對稱矩陣所以這些向量可以用兩兩垂直的一些基底表示）
前者的特徵值是 u 的長度平方
後者的特徵值則是 0
加上 I 以後只是把所有的特徵值都加一了而已

因此 I+uu^T 就是一個
只把和 u 同向的向量加長
其餘方向都維持不變的矩陣呢

這樣就可以推斷
(I+uu^T)^-1 是一個把 u 方向變短還原其餘方向不變的矩陣
由於原本的 I+uu^T 會把 u 加長 6 倍
那麼反矩陣也就是把它縮短為 1/6

再乘上 I+2uu^T 也就可以視為是把它增長為 1+5*2=11 倍
因此也就得到答案是 (11/6)u 了呢!

這個解答顯然和老師的文章主題相關性不高也不適合被貼在文章裡
也說不定是許多人早就想到過的
不過既然想到了仍然感到很高興所以就獻醜了！

另外很感謝老師撰寫四篇線性代數基本定理還有轉置矩陣的想法喔
真的很具啟發性
雖然還沒有完全讀懂不過已獲益良多
請老師一定要再接再厲猛寫下去 XD
多幾個這樣的網站台灣以後也許就強盛起來了！

ccjou says:

10/28/2010 at 9:07 pm

非常謝謝你提供的特異方法，這不是什麼獻醜，根本就是”絕世線代文”。不誇張，眾生(包括敝人)碰到問題時，總是設法”算出”答案，而不是”想出”答案。果真是江山代有才人出，各領風騷數百年。

請閣下一定要再接再厲猛(狂)想下去
多幾個這樣的學者文明以後一定就進步起來了！

fatcloud says:

10/29/2010 at 6:05 pm

多謝老師謬讚!

	xmj on 內積的定義
	Ning ChingSan on 線性代數的第一堂課──矩陣乘法的定義
	momo on 兩岸線性代數用詞參照
	訪客 on 克拉瑪公式的簡易幾何證明
	悟 on 條件機率與貝氏定理
	jeremy on 內積與外積是怎麼來的？