答erofish──關於 Gramian 行列式不為零的充要條件

網友erofish留言：

老师您好！非常喜欢您在博客上讲述的与线代有关的知识。最近学习数值分析的课程遇到了 Gram 矩阵，书上仅仅从内积空间的4个性质 (正定，齐次，分配，交换) 就证明了 Gram 矩阵行列式不为 $0$ 的充要条件是 $\mathbf{v}_1,\mathbf{v}_2,\ldots,\mathbf{v}_n$ 线性无关。我自己做推导却怎么也推不出来。不知道您能否在这篇博文 (見“特殊矩陣 (14)：Gramian 矩陣”) 里面讲的更加详细一点，谢谢！

答曰：

令 $\mathcal{V}$ 為一個複內積空間，且 $\mathbf{v}_1,\mathbf{v}_2,\ldots,\mathbf{v}_n$ 為 $\mathcal{V}$ 中 $n$ 個向量。我們以 $\left\langle\mathbf{v}_i,\mathbf{v}_j\right\rangle$ 表示 $\mathbf{v}_i$ 和 $\mathbf{v}_j$ 的內積。下列 $n\times n$ 階矩陣稱為 Gramian 矩陣：

$\displaystyle G=\begin{bmatrix} \left\langle\mathbf{v}_1,\mathbf{v}_1\right\rangle&\left\langle\mathbf{v}_1,\mathbf{v}_2\right\rangle&\cdots&\left\langle\mathbf{v}_1,\mathbf{v}_n\right\rangle\\ \left\langle\mathbf{v}_2,\mathbf{v}_1\right\rangle&\left\langle\mathbf{v}_2,\mathbf{v}_2\right\rangle&\cdots&\left\langle\mathbf{v}_2,\mathbf{v}_n\right\rangle\\ \vdots&\vdots&\ddots&\vdots\\ \left\langle\mathbf{v}_n,\mathbf{v}_1\right\rangle&\left\langle\mathbf{v}_n,\mathbf{v}_2\right\rangle&\cdots&\left\langle\mathbf{v}_n,\mathbf{v}_n\right\rangle \end{bmatrix}$ 。

因為 $\left\langle\mathbf{v}_i,\mathbf{v}_i\right\rangle\ge 0$ 且 $\left\langle\mathbf{v}_j,\mathbf{v}_i\right\rangle=\overline{\left\langle\mathbf{v}_i,\mathbf{v}_j\right\rangle}$ (見“內積的定義”)，可知 $G^\ast=G$ ，也就是說 Gramian 矩陣為 Hermitian 矩陣。我們的問題要證明 Gramian 行列式 $\det G\neq 0$ 的一個充要條件為 $\{\mathbf{v}_1,\mathbf{v}_2,\ldots,\mathbf{v}_n\}$ 是一組線性無關集。

首先討論向量內積所構造的 Gramian 矩陣的一個重要用途。令 $\mathbf{u}=c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n$ 和 $\mathbf{w}=d_1\mathbf{v}_1+\cdots+d_n\mathbf{v}_n$ 。使用內積性質，

$\displaystyle\begin{aligned} \left\langle\mathbf{u},\mathbf{w}\right\rangle&=\left\langle c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n,d_1\mathbf{v}_1+\cdots+d_n\mathbf{v}_n\right\rangle\\ &=\left\langle c_1\mathbf{v}_1,d_1\mathbf{v}_1+\cdots+d_n\mathbf{v}_n\right\rangle+\cdots+\left\langle c_n\mathbf{v}_n,d_1\mathbf{v}_1+\cdots+d_n\mathbf{v}_n\right\rangle\\ &=\overline{c_1}\left\langle \mathbf{v}_1,d_1\mathbf{v}_1+\cdots+d_n\mathbf{v}_n\right\rangle+\cdots+\overline{c_n}\left\langle \mathbf{v}_n,d_1\mathbf{v}_1+\cdots+d_n\mathbf{v}_n\right\rangle\\ &=\overline{c_1}\left(\left\langle \mathbf{v}_1,d_1\mathbf{v}_1\right\rangle+\cdots+\left\langle \mathbf{v}_1,d_n\mathbf{v}_n\right\rangle\right)+\cdots+\overline{c_n}\left(\left\langle \mathbf{v}_n,d_1\mathbf{v}_1\right\rangle+\cdots+\left\langle \mathbf{v}_n,d_n\mathbf{v}_n\right\rangle\right)\\ &=\overline{c_1}\left(d_1\left\langle \mathbf{v}_1,\mathbf{v}_1\right\rangle+\cdots+d_n\left\langle \mathbf{v}_1,\mathbf{v}_n\right\rangle\right)+\cdots+\overline{c_n}\left(d_1\left\langle \mathbf{v}_n,\mathbf{v}_1\right\rangle+\cdots+d_n\left\langle \mathbf{v}_n,\mathbf{v}_n\right\rangle\right)\\ &=\sum_{i=1}^n\sum_{j=1}^n\overline{c_i}d_j\left\langle \mathbf{v}_i,\mathbf{v}_j\right\rangle \\ &=\begin{bmatrix} \overline{c_1}&\cdots&\overline{c_n} \end{bmatrix}\begin{bmatrix} \left\langle \mathbf{v}_1,\mathbf{v}_1\right\rangle&\cdots&\left\langle \mathbf{v}_1,\mathbf{v}_n\right\rangle\\ \vdots&\ddots&\vdots\\ \left\langle \mathbf{v}_n,\mathbf{v}_1\right\rangle&\cdots&\left\langle \mathbf{v}_n,\mathbf{v}_n\right\rangle \end{bmatrix}\begin{bmatrix} d_1\\ \vdots\\ d_n \end{bmatrix}\\ &=\mathbf{c}^\ast G\mathbf{d},\end{aligned}$

其中 $\mathbf{c}=(c_1,\ldots,c_n)^T$ 和 $\mathbf{d}=(d_1,\ldots,d_n)^T$ 屬於 $\mathbb{C}^n$ 。上式說明 $\mathbf{v}_1,\ldots,\mathbf{v}_n$ 的任兩個線性組合的內積可通過組合係數與 Gramian 矩陣來表達。根據向量內積的 Gramian 矩陣算式，下面介紹兩個證明方法。

第一個證法使用二次型。寫出

$\displaystyle \Vert\mathbf{u}\Vert^2=\left\langle\mathbf{u},\mathbf{u}\right\rangle=\mathbf{c}^\ast G\mathbf{c}\ge 0$ ，

表明 $G$ 是半正定矩陣。再者， $G$ 是可逆矩陣，即 $\det G\neq 0$ ，等價於 $G$ 是正定矩陣，因為正定矩陣的特徵值皆為正數 (見“正定矩陣的性質與判別方法”)。根據定義， $G$ 是正定矩陣若每一個非零向量 $\mathbf{c}$ 滿足 $\mathbf{c}^\ast G\mathbf{c}>0$ ，亦即 $\mathbf{u}=c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n\neq \mathbf{0}$ ，換句話說， $\{\mathbf{v}_1,\ldots,\mathbf{v}_n\}$ 是一個線性無關集 (否則存在不全為零的數組 $c_1,\ldots,c_n$ 使得 $\mathbf{u}=c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n=\mathbf{0}$ )。

第二個證法使用零空間 (nullspace)。考慮線性變換 $T:\mathbb{C}^n\to\mathcal{V}$ ，定義如下：

$\displaystyle T(\mathbf{c})=T(c_1,\ldots,c_n)=c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n$ 。

我們可以證明 Gramian 矩陣 $G$ 的零空間 $N(G)$ 等於 $T$ 的零空間 (或稱核，kernel) $N(T)$ 。因為 $G$ 是可逆矩陣的一個充要條件為 $N(G)=\{\mathbf{0}\}$ ，即 $N(T)=\{\mathbf{0}\}$ ，而後者又等價於 $\{\mathbf{v}_1,\ldots,\mathbf{v}_n\}$ 為線性無關集，故得證。底下證明 $N(G)=N(T)$ 。假設 $\mathbf{c}\in N(G)$ ，即 $G\mathbf{c}=\mathbf{0}$ 。計算

$\displaystyle\begin{aligned} \Vert T(\mathbf{c})\Vert^2&=\left\langle T(\mathbf{c}),T(\mathbf{c})\right\rangle\\ &=\left\langle c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n,c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n\right\rangle\\ &=\mathbf{c}^\ast G\mathbf{c}=\mathbf{c}^\ast\mathbf{0}=0,\end{aligned}$

故 $T(\mathbf{c})=\mathbf{0}$ 或 $\mathbf{c}\in N(T)$ 。因此， $N(G)\subseteq N(T)$ 。假設 $\mathbf{c}\in N(T)$ ，即 $T(\mathbf{c})=c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n=\mathbf{0}$ 。對於 $i=1,\ldots,n$ ，

$\displaystyle\begin{aligned} c_1\left\langle\mathbf{v}_i,\mathbf{v}_1\right\rangle+\cdots+c_n\left\langle\mathbf{v}_i,\mathbf{v}_n\right\rangle &=\left\langle\mathbf{v}_i,c_1\mathbf{v}_1\right\rangle+\cdots+\left\langle\mathbf{v}_i,c_n\mathbf{v}_n\right\rangle\\ &=\left\langle\mathbf{v}_i,c_1\mathbf{v}_1+\cdots+c_n\mathbf{v}_n\right\rangle\\ &=\left\langle\mathbf{v}_i,\mathbf{0}\right\rangle=0, \end{aligned}$

也就是說， $G\mathbf{c}=\mathbf{0}$ 或 $\mathbf{c}\in N(G)$ 。因此， $N(T)\subseteq N(G)$ 。

如果 $\{\mathbf{v}_1,\ldots,\mathbf{v}_n\}$ 是一個線性無關集，則 Gramian 矩陣 $G=[\left\langle\mathbf{v}_i,\mathbf{v}_j\right\rangle]$ 是 Hermitian 正定矩陣。對於 $\mathbf{x},\mathbf{y}\in\mathbb{C}^n$ ，我們可以定義內積運算

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\mathbf{x}^\ast G\mathbf{y}$ ，

稱為橢圓內積 (elliptical inner product)，此名稱的由來係因 $\mathbf{x}^\ast G\mathbf{x}=1$ 的軌跡為一個橢球 (ellipsoid)。很容易驗證橢圓內積滿足內積空間的四個公設：對於 $\mathbf{x},\mathbf{y},\mathbf{z}\in\mathbb{C}^n$ 且 $c\in\mathbb{C}$ ，

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\mathbf{x}^\ast G\mathbf{y}=\overline{(\mathbf{x}^\ast G\mathbf{y})^\ast}=\overline{\mathbf{y}^\ast G\mathbf{x}}=\overline{\left\langle\mathbf{y},\mathbf{x}\right\rangle}$ ；
$\left\langle\mathbf{x},\mathbf{y}+\mathbf{z}\right\rangle=\mathbf{x}^\ast G(\mathbf{y}+\mathbf{z})=\mathbf{x}^\ast (G\mathbf{y}+G\mathbf{z})=\mathbf{x}^\ast G\mathbf{y}+\mathbf{x}^\ast G\mathbf{z}=\left\langle\mathbf{x},\mathbf{y}\right\rangle+\left\langle\mathbf{x},\mathbf{z}\right\rangle$ ；
$\left\langle\mathbf{x},c\mathbf{y}\right\rangle=\mathbf{x}^\ast G(c\mathbf{y})=\mathbf{x}^\ast (cG\mathbf{y})=c\mathbf{x}^\ast G\mathbf{y}=c\left\langle\mathbf{x},\mathbf{y}\right\rangle$ ；
$\left\langle\mathbf{x},\mathbf{x}\right\rangle=\mathbf{x}^\ast G\mathbf{x}\ge 0$ ，且 $\mathbf{x}^\ast G\mathbf{x}=0$ 惟當 $\mathbf{x}=\mathbf{0}$ 。

2 Responses to 答erofish──關於 Gramian 行列式不為零的充要條件

erofish says:

11/11/2015 at 5:17 pm

明白了！没想到老师回答得这么快这么详细，谢谢老师。

Meiyue Shao says:

01/21/2016 at 9:56 am

可以从“形式上”把 $G$ 记成 $G=[v_1,\dotsc,v_n]^*[v_1,\dotsc,v_n]$ , 这样便于理解和记忆。

	陳倍恩 on 線性代數的第一堂課──矩陣乘法的定義
	輕鬆談如何教學二項式定理？… on 牛頓的二項式定理 (上)
	madhouse on 高斯消去法
	WishMobile on 翻轉 LU 分解
	周子傑 on Karush-Kuhn-Tucker (KKT) 條件
	Cloud Huang on 線性泛函與伴隨