內積的定義

Posted on 01/27/2010 by ccjou

本文的閱讀等級：初級

在幾何向量空間 $\mathbb{R}^n$ ，向量 $\mathbf{x}=(x_1,\ldots,x_n)$ 和 $\mathbf{y}=(y_1,\ldots,y_n)$ 的點積 (dot product)，或稱內積 (inner product)，定義為

$\mathbf{x}\cdot\mathbf{y}=x_1y_1+\cdots+x_ny_n=\displaystyle\sum_{i=1}^{n}x_iy_i$ 。

若將向量 $\mathbf{x}$ 與 $\mathbf{y}$ 寫成 $n\times 1$ 階矩陣，即行向量 (column vector)，則其內積可用矩陣乘積表示如下：

$\mathbf{x}^T\mathbf{y}=\begin{bmatrix} x_1&\cdots&x_n \end{bmatrix}\begin{bmatrix} y_1\\ \vdots\\ y_n \end{bmatrix}=\displaystyle\sum_{i=1}^{n}x_iy_i$ ，

其中 $\mathbf{x}^T$ 表示行向量 $\mathbf{x}$ 的轉置 (transpose)。上式提示我們轉置的一個重要用途在於計算內積，稍後將詳細說明。多數讀者在中學時就被告知內積的定義，並學會使用向量內積解決一些座標幾何問題以及計算物理學的合力與功。事實上，內積運算並不限定於具有幾何座標系統的向量空間，廣義向量空間也有合理的內積運算。溫故而知新，我們先嘗試從幾何向量找出內積定義的根基，再將內積運算推廣至廣義向量空間。

向量空間是一種代數結構。在幾何向量空間 $\mathbb{R}^n$ 的兩個向量 $\mathbf{x}=(x_1,\ldots,x_n)$ 與 $\mathbf{y}=(y_1,\ldots,y_n)$ 可以相加， $\mathbf{x}+\mathbf{y}=(x_1+y_1,\ldots,x_n+y_n)$ ，向量 $\mathbf{x}$ 和純量 $c$ 可以相乘， $c\,\mathbf{x}=(cx_1,\ldots,cx_n)$ 。一般向量空間的公設化定義僅提供代數性質，例如，加法交換律與結合律，但忽略長度和角度這些幾何概念。那麼，如何在幾何向量空間中建立計算長度和角度的數值函數呢？答案正是內積。我們從讀者熟悉的歐幾里得空間 $\mathbb{R}^2$ (即平面) 開始討論。設 $\mathbf{x}=(x_1,x_2)$ 和 $\mathbf{y}=(y_1,y_2)$ 為 $\mathbb{R}^2$ 的任意兩個點 (我們經常視向量為具有方向性的一種數學實體，有時候又將它看成空間中的一個點)，連接 $\mathbf{x}$ 和 $\mathbf{y}$ 的線段距離可由畢氏定理求得： $\sqrt{(x_1-y_1)^2+(x_2-y_2)^2}$ 。若 $\mathbf{y}=(0,0)$ ，我們用 $\Vert\mathbf{x}\Vert$ 代表從原點 $\mathbf{0}=(0,0)$ 至 $\mathbf{x}$ 的距離，稱為向量 $\mathbf{x}$ 的長度，如下：

$\Vert\mathbf{x}\Vert=\sqrt{x_1^2+x_2^2}$ 。

因此， $\Vert\mathbf{x}-\mathbf{y}\Vert$ 表示點 $\mathbf{x}$ 與點 $\mathbf{y}$ 的距離。

談到角度，在一般情況下，我們並不直接度量角度，而是以角度的餘弦作為對象。粗淺的解釋是角度的徑度 (弧度，radian) 對應單位圓的弧長，而餘弦對應線段長，後者較前者易於表現線性函數關係。見圖一， $\alpha$ 與 $\beta$ 分別為向量 $\mathbf{x}$ 和 $\mathbf{y}$ 與水平軸方向的夾角。向量 $\mathbf{x}$ 與 $\mathbf{y}$ 之間的夾角為 $\alpha-\beta$ ，和差化積公式給出下式：

$\begin{aligned} \cos(\alpha-\beta)&=\cos\alpha\,\cos\beta+\sin\alpha\,\sin\beta\\ &=\displaystyle\frac{x_1}{\Vert\mathbf{x}\Vert}\frac{y_1}{\Vert\mathbf{y}\Vert}+\frac{x_2}{\Vert\mathbf{x}\Vert}\frac{y_2}{\Vert\mathbf{y}\Vert}\\ &=\frac{x_1y_1+x_2y_2}{\Vert\mathbf{x}\Vert~\Vert\mathbf{y}\Vert}.\end{aligned}$

圖一兩個向量的夾角

利用式子 $x_1y_1+x_2y_2$ 很容易表達向量長度與兩個向量的夾角。若 $\mathbf{x}=\mathbf{y}$ ，則 $x_1y_1+x_2y_2=x_1^2+x_2^2=\Vert\mathbf{x}\Vert^2$ 給出向量長度的平方。再者，和差化積公式聯繫兩個向量之夾角的餘弦與 $x_1y_1+x_2y_2$ 以及長度 $\Vert\mathbf{x}\Vert$ 和 $\Vert\mathbf{y}\Vert$ 之間的關係。有了這個體會，數學家便著手設計簡明的符號來表示 $x_1y_1+x_2y_2$ ，於是定義

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=x_1y_1+x_2y_2$ ，

並稱 $\left\langle\mathbf{x},\mathbf{y}\right\rangle$ 為向量 $\mathbf{x}$ 與 $\mathbf{y}$ 的內積。向量的內積於計算幾何度量的用途整理如下：

向量的長度為 $\Vert\mathbf{x}\Vert=\sqrt{\left\langle\mathbf{x},\mathbf{x}\right\rangle}$ ，
兩點的距離為 $\Vert\mathbf{x}-\mathbf{y}\Vert=\sqrt{\left\langle\mathbf{x}-\mathbf{y},\mathbf{x}-\mathbf{y}\right\rangle}$ ，
兩個向量之夾角 $\theta$ 的餘弦為 $\cos\theta=\frac{\left\langle\mathbf{x},\mathbf{y}\right\rangle}{\Vert\mathbf{x}\Vert~\Vert\mathbf{y}\Vert}$ 。

將上式寫成

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\Vert\mathbf{x}\Vert\,\Vert\mathbf{y}\Vert\,\cos\theta$ 。

這就是中學數學給出的向量內積的幾何定義，解釋如下：如果 $\Vert\mathbf{y}\Vert=1$ ，則內積 $\left\langle\mathbf{x},\mathbf{y}\right\rangle=\Vert\mathbf{x}\Vert\cos\theta$ 等於 $\mathbf{x}$ 在單位向量 $\mathbf{y}$ 方向的正交投影量 (見圖二)。考慮一個特殊的情況：在向量空間 $\mathbb{R}^1$ (實數軸)，對於 $\mathbf{x}=(x_1)$ 和 $\mathbf{y}=(y_1)$ ， $\left\langle\mathbf{x},\mathbf{y}\right\rangle=x_1y_1=\vert x_1\vert\,\vert y_1\vert\,\cos\theta$ 。上式解釋了為何 $\left\langle\mathbf{x},\mathbf{y}\right\rangle$ 被稱為內積或純量積 (scalar product)。在實數軸 $\mathbb{R}^1$ ，任兩個向量的夾角 $\theta$ 為 $0$ 或 $\pi$ ，故 $\cos\theta$ 等於 $1$ 或 $-1$ 。因為 $\left\langle\mathbf{x},\mathbf{y}\right\rangle$ 可為任何數值，內積比餘弦蘊涵更豐富的訊息。

圖二幾何向量的內積

兩個向量的內積運算具有什麼性質？數學家習慣以函數思考，若將內積看成兩個向量的數值函數 $\left\langle\cdot,\cdot\right\rangle:\mathbb{R}^2\times\mathbb{R}^2\to\mathbb{R}$ ，不難發現下面三個性質：

對稱性：
$\begin{aligned} \left\langle\mathbf{x},\mathbf{y}\right\rangle&=x_1y_1+x_2y_2=y_1x_1+y_2x_2=\left\langle\mathbf{y},\mathbf{x}\right\rangle\end{aligned}$ 。
線性函數：設 $\mathbf{x},\mathbf{y},\mathbf{z}\in\mathbb{R}^2$ 。固定 $\mathbf{x}$ 時，

$\begin{aligned} \left\langle\mathbf{x},\mathbf{y}+\mathbf{z}\right\rangle&=x_1(y_1+z_1)+x_2(y_2+z_2)\\ &=(x_1y_1+x_2y_2)+(x_1z_1+x_2z_2)\\ &=\left\langle\mathbf{x},\mathbf{y}\right\rangle+\left\langle\mathbf{x},\mathbf{z}\right\rangle,\end{aligned}$

而且

$\begin{aligned} \left\langle\mathbf{x},c\mathbf{y}\right\rangle&=x_1(cy_1)+x_2(cy_2)\\ &=c(x_1y_1+x_2y_2)\\ &=c\left\langle\mathbf{x},\mathbf{y}\right\rangle.\end{aligned}$

同樣道理，固定 $\mathbf{y}$ 時，

$\begin{aligned} \left\langle\mathbf{x}+\mathbf{z},\mathbf{y}\right\rangle&=\left\langle\mathbf{x},\mathbf{y}\right\rangle+\left\langle\mathbf{z},\mathbf{y}\right\rangle\\ \left\langle c\mathbf{x},\mathbf{y}\right\rangle&=c\left\langle\mathbf{x},\mathbf{y}\right\rangle.\end{aligned}$

滿足上述這種線性關係的函數稱為雙線性形式 (bilinear form)。
向量與其自身的內積不為負值，即 $\left\langle\mathbf{x},\mathbf{x}\right\rangle=x_1^2+x_2^2\ge 0$ ，等號僅發生於 $\mathbf{x}=\mathbf{0}$ 。

接下來，我們探討二維實向量的內積定義如何推廣至一般情況。首先，實向量空間 $\mathbb{R}^2$ 所定義的內積在複向量空間 $\mathbb{C}^2$ 仍然成立嗎？具體地說，我們期待複向量也有合理的長度 $\Vert\mathbf{x}\Vert$ 和距離 $\Vert\mathbf{x}-\mathbf{y}\Vert$ (複向量之間的夾角餘弦沒有統一的定義，在此不深入討論)。然而，奇怪的現象出現了。令 $i=\sqrt{-1}$ 。考慮

$\Vert i\mathbf{x}\Vert^2=\left\langle i\mathbf{x},i\mathbf{x}\right\rangle=i\left\langle\mathbf{x},i\mathbf{x}\right\rangle=i^2\left\langle\mathbf{x},\mathbf{x}\right\rangle=-\Vert\mathbf{x}\Vert^2$ 。

上式中，推導步驟使用了內積的雙線性性質。如果我們接受原點 $\mathbf{0}$ 至 $\mathbf{x}$ 的距離 $\Vert\mathbf{x}\Vert$ 不為負值，則原點至 $i\mathbf{x}$ 的距離 $\Vert i\mathbf{x}\Vert$ 卻為虛數！這違反了向量自身內積不為負的美好性質。數學家提出的補救措施是將複向量的內積定義為^[1]

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\overline{\mathbf{x}}^T\mathbf{y}=\overline{x}_1y_1+\overline{x}_2{y}_2$ ，

其中 $\overline{x}$ 代表共軛複數 (見“從實數系到複數系”)。為簡便書寫，我們採用符號 $\mathbf{x}^{\ast}=\overline{\mathbf{x}}^T$ 。計算檢查確認

$\left\langle\mathbf{x},\mathbf{x}\right\rangle =\mathbf{x}^{\ast}\mathbf{x}=\overline{x}_1{x}_1+\overline{x}_2{x}_2=\vert x_1\vert^2+\vert x_2\vert^2\ge 0$ 。

修正後的複向量內積定義保證向量長度不為負值，但卻失去實向量內積擁有的部分性質。複向量內積不再具有對稱性，因為

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\overline{x}_1{y}_1+\overline{x}_2{y}_2=\overline{\overline{y}_1x_1+\overline{y}_2x_2}=\overline{\left\langle\mathbf{y},\mathbf{x}\right\rangle}$ 。

此外，複向量內積不再是完整的雙線性形式，而是半雙線性形式：

$\left\langle c\mathbf{x},\mathbf{y}\right\rangle=\overline{c}\,\overline{x}_1y_1+\overline{c}\,\overline{x}_2y_2=\overline{c}\left\langle\mathbf{x},\mathbf{y}\right\rangle$ 。

既然向量內積的定義並非唯一的，那就沒有必要執著於幾何向量內積，而應當關注內積所必須滿足的一般性質，下面的廣義向量內積定義源於複向量內積。在實或複向量空間中，內積是兩個向量 $\mathbf{x}$ 與 $\mathbf{y}$ 的數值 (實或複數) 函數，滿足以下四個條件：

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\overline{\left\langle\mathbf{y},\mathbf{x}\right\rangle}$ ，
$\left\langle\mathbf{x},\mathbf{y}+\mathbf{z}\right\rangle=\left\langle\mathbf{x},\mathbf{y}\right\rangle+\left\langle\mathbf{x},\mathbf{z}\right\rangle$ ，
$\left\langle\mathbf{x},c\mathbf{y}\right\rangle=c\left\langle\mathbf{x},\mathbf{y}\right\rangle$ ，
$\left\langle\mathbf{x},\mathbf{x}\right\rangle\ge 0$ ， $\left\langle\mathbf{x},\mathbf{x}\right\rangle=0$ 惟當 $\mathbf{x}=\mathbf{0}$ 。

滿足上述條件的向量空間稱為內積空間 (inner product space)。條件1稱為 Hermitian 對稱，條件2與3稱為共軛雙線性 (conjugate bilinear)，條件4稱為正定 (positive definite)。根據此定義，我們依然保留內積運算前部分的可加性，因為

$\begin{aligned} \left\langle\mathbf{x}+\mathbf{z},\mathbf{y}\right\rangle&=\overline{\left\langle\mathbf{y},\mathbf{x}+\mathbf{z}\right\rangle}=\overline{\left\langle\mathbf{y},\mathbf{x}\right\rangle+\left\langle\mathbf{y},\mathbf{z}\right\rangle}\\ &=\overline{\left\langle\mathbf{y},\mathbf{x}\right\rangle}+\overline{\left\langle\mathbf{y},\mathbf{z}\right\rangle}=\left\langle\mathbf{x},\mathbf{y}\right\rangle+\left\langle\mathbf{z},\mathbf{y}\right\rangle.\end{aligned}$

但原本前部份的均勻性則變成共軛均勻性：

$\begin{aligned} \left\langle c\mathbf{x},\mathbf{y}\right\rangle&=\overline{\left\langle\mathbf{y},c\mathbf{x}\right\rangle}=\overline{c\left\langle\mathbf{y},\mathbf{x}\right\rangle}\\ &=\overline{c}\overline{\left\langle\mathbf{y},\mathbf{x}\right\rangle}=\overline{c}\left\langle\mathbf{x},\mathbf{y}\right\rangle.\end{aligned}$

使用內積性質很容易證明 $\Vert\mathbf{x}\Vert$ 的均勻性：

$\Vert c\mathbf{x}\Vert^2=\left\langle c\mathbf{x},c\mathbf{x}\right\rangle=\overline{c}c\left\langle\mathbf{x},\mathbf{x}\right\rangle=\vert c\vert^2\,\Vert\mathbf{x}\Vert^2$ ，

故 $\Vert c\mathbf{x}\Vert=\vert c\vert\,\Vert\mathbf{x}\Vert$ 。下面舉一些常見的例子，讀者可以從中體會內積的多樣面貌。

例1. 顯然實向量空間 $\mathbb{R}^n$ 的標準內積 $\left\langle\mathbf{x},\mathbf{y}\right\rangle=\mathbf{x}^T\mathbf{y}$ 和複向量空間 $\mathbb{C}^n$ 的標準內積 $\left\langle\mathbf{x},\mathbf{y}\right\rangle=\mathbf{x}^{\ast}\mathbf{y}$ 符合廣義內積條件。

例2. 設 $A$ 為一個 $n\times n$ 階可逆矩陣，定義複向量 $\mathbf{x}$ 和 $\mathbf{y}$ 的內積為

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\mathbf{x}^{\ast}A^{\ast}A\mathbf{y}=(A\mathbf{x})^{\ast}(A\mathbf{y})$ 。

上式稱為橢圓內積 (elliptical inner product)，意義是先經過線性變換 $A$ ，再用變換後的向量來計算標準內積。因為 $A^{\ast}A$ 是一個正定矩陣 (見“特殊矩陣 (6)：正定矩陣”)，對於任意 $\mathbf{x}\neq\mathbf{0}$ ，

$\left\langle\mathbf{x},\mathbf{x}\right\rangle=\mathbf{x}^{\ast}A^{\ast}A\mathbf{x}>0$ 。

讀者可自行查驗橢圓內積確實滿足其餘內積定義所要求的條件。考慮特殊狀況，若 $A^{\ast}A=sI$ (稱為純量矩陣)， $s>0$ ，橢圓內積就是標準內積的伸縮：

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\mathbf{x}^{\ast}(sI)\mathbf{y}=s(\mathbf{x}^{\ast}\mathbf{y})$ 。

例3. 考慮所有 $m\times n$ 階實 (或複) 矩陣構成的向量空間。我們定義兩個實矩陣 $A$ 和 $B$ 的內積為

$\left\langle A,B\right\rangle=\mathrm{trace}(A^TB)$ ，

複矩陣的內積則為

$\left\langle A,B\right\rangle=\mathrm{trace}(A^{\ast}B)$ ，

稱為標準矩陣內積。上式中， $\hbox{trace}R=\sum_{i=1}^n r_{ii}$ 稱為 $n\times n$ 階矩陣 $R=[r_{ij}]$ 的跡數 (trace)。當 $n=1$ 時，標準矩陣內積退化為標準向量內積。設 $A$ 的行向量為 $\mathbf{a}_j$ ， $B$ 的行向量為 $\mathbf{b}_j$ ， $j=1,\ldots,n$ ，我們可以將標準矩陣內積當成行向量內積 $\mathbf{a}_j^\ast\mathbf{b}_j$ 之和，即

$\displaystyle \left\langle A,B\right\rangle=\sum_{j=1}^n(A^\ast B)_{jj}=\sum_{j=1}^n\mathbf{a}_j^\ast\mathbf{b}_j$ 。

例4. 設 $\mathcal{P}$ 為定義於區間 $[a,b]$ 的連續實函數所形成的向量空間，定義函數 $f$ 和 $g$ 的內積如下：

$\left\langle f,g\right\rangle=\displaystyle\int_{a}^{b}f(x)g(x)dx$ 。

關於函數空間的詳細介紹，請見“從幾何向量空間到函數空間”。我們用一個數列來近似區間 $[a,b]$ 內的連續函數 $f(x)$ ，令 $x_j=a+j(b-a)/n$ ，將 $f(x_j)$ 和 $g(x_j)$ ， $j=0,1,\ldots,n$ ，視為 $\mathbb{R}^{n+1}$ 內的兩個向量，所以標準內積給出

$\left\langle f,g\right\rangle=\displaystyle\sum_{j=0}^{n}f(x_j)g(x_j)$ 。

當 $n\rightarrow\infty$ ，數列乘積之和變成了函數乘積的積分，積分符號 $\int$ 就是將「和」(sum) 的第一個英文字母 S 拉長得來的。

最後我們要說明在內積空間中，向量之間最重要的一個性質是正交 (orthogonality)。前述引介實向量內積的討論已經表明當 $\theta=90^\circ$ ，向量 $\mathbf{x}$ 垂直於 $\mathbf{y}$ ， $\left\langle\mathbf{x},\mathbf{y}\right\rangle=\Vert\mathbf{x}\Vert\,\Vert\mathbf{y}\Vert\,\cos\theta=0$ 。推廣至一般的內積空間，我們說向量 $\mathbf{x}$ 正交於 $\mathbf{y}$ 若 $\left\langle\mathbf{x},\mathbf{y}\right\rangle=0$ 。因為 $\left\langle\mathbf{x},\mathbf{y}\right\rangle=\overline{\left\langle\mathbf{y},\mathbf{x}\right\rangle}$ ，可知 $\left\langle\mathbf{x},\mathbf{y}\right\rangle=0$ 等價於 $\left\langle\mathbf{y},\mathbf{x}\right\rangle=0$ ，正交具備對稱性。在實內積空間中，向量 $\mathbf{x}$ 正交於 $\mathbf{y}$ 的一個充要條件是 $\Vert\mathbf{x}+\mathbf{y}\Vert^2=\Vert\mathbf{x}\Vert^2+\Vert\mathbf{y}\Vert^2$ (即畢氏定理)。但在複內積空間中，上式並非正交的充要條件，譬如， $\mathbf{x}=(1,0)$ 且 $\mathbf{y}=(i,0)$ 。複內積空間的向量 $\mathbf{x}$ 正交於 $\mathbf{y}$ 的一個充要條件是對於任意純量 $c$ 和 $d$ ， $\Vert c\mathbf{x}+d\mathbf{y}\Vert^2=\Vert c\mathbf{x}\Vert^2+\Vert d\mathbf{y}\Vert^2$ (證明見^[2])。

註解
[1] 在應用數學 (物理學與矩陣代數)，很多學者採用本文的定義：

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\overline{\mathbf{x}}^T\mathbf{y}=\overline{x}_1y_1+\overline{x}_2y_2$ 。

在純數學 (傳統線性代數)，多數人採用另一個定義，如下：

$\left\langle\mathbf{x},\mathbf{y}\right\rangle=\overline{\mathbf{y}}^T\mathbf{x}=\overline{y}_1x_1+\overline{y}_2x_2$ 。

兩種定義給出的內積數值互為共軛，唯一一個不同的內積運算規則是 $\left\langle c\mathbf{x},d\mathbf{y}\right\rangle$ ，前者為

$\left\langle c\mathbf{x},d\mathbf{y}\right\rangle=\overline{c}d\left\langle \mathbf{x},\mathbf{y}\right\rangle$ ，

後者則為

$\left\langle c\mathbf{x},d\mathbf{y}\right\rangle=c\overline{d}\left\langle \mathbf{x},\mathbf{y}\right\rangle$ 。

[2] 使用內積性質，

$\begin{aligned} \Vert c\mathbf{x}+d\mathbf{y}\Vert^2&= \left\langle c\mathbf{x}+d\mathbf{y},c\mathbf{x}+d\mathbf{y}\right\rangle\\ &=\left\langle c\mathbf{x},c\mathbf{x}\right\rangle+\left\langle d\mathbf{y},d\mathbf{y}\right\rangle+\left\langle c\mathbf{x},d\mathbf{y}\right\rangle+\left\langle d\mathbf{y},c\mathbf{x}\right\rangle\\ &=\Vert c\mathbf{x}\Vert^2+\Vert d\mathbf{y}\Vert^2+\overline{c}d\left\langle \mathbf{x},\mathbf{y}\right\rangle+\overline{\overline{c}d\left\langle \mathbf{x},\mathbf{y}\right\rangle}\\ &=\Vert c\mathbf{x}\Vert^2+\Vert d\mathbf{y}\Vert^2+2\hbox{Re}(\overline{c}d\left\langle \mathbf{x},\mathbf{y}\right\rangle). \end{aligned}$

對於所有的 $c$ 與 $d$ ， $\Vert c\mathbf{x}+d\mathbf{y}\Vert^2=\Vert c\mathbf{x}\Vert^2+\Vert d\mathbf{y}\Vert^2$ 等價於 $\left\langle \mathbf{x},\mathbf{y}\right\rangle=0$ 。

32 Responses to 內積的定義

aocwind says:

02/02/2010 at 7:36 pm

原來 $= x^{T}y$ 以及$ = \overline{a}$會如此定義是有這樣的一個緣故呀!往常都是囫圇吞棗直接背下，受益良多

Reply
aocwind says:

02/02/2010 at 7:37 pm

抱歉，沒想到Comment是不支援Latex的…下次注意

Reply
大俠 says:

02/03/2010 at 7:48 am

Comment 支援 Latex, 但是和一般的 Latex 格式有個小差異, 必須在數學符號左右各打上兩個連續 dollar signs ($), 你下回再試一下.
$x^Ty$ , $\int x^2dx$ , $\begin{bmatrix} 1&0\\ 0&1 \end{bmatrix}$
矩陣打印語法是
\begin{bmatrix}
1&0\\
0&1
\end{bmatrix}
若是行列式則將 bmatrix 改為 vmatrix, 其他大概就與一般 Latex 無異.
我們使用的版本來自
http://www.codecogs.com/components/equationeditor/equationeditor.php

Reply
aocwind says:

02/03/2010 at 8:35 am

好的，感謝告知

馬上測試看看
$\begin{bmatrix}
1&0\\
0&1
\end{bmatrix}$

Reply
aocwind says:

02/03/2010 at 8:43 am

$\begin{bmatrix} 1&0\\ 0&1 \end{bmatrix}$

Reply
aocwind says:

02/03/2010 at 8:49 am

終於成功了，抱歉佔了老師的版面，如果老師覺得佔版面，可以幫我刪除，沒關係謝謝，
另外，第一篇發文的數學式子為
$x=x^{T}y$ 以及 $\left \langle x,y \right \rangle= \overline{\left \langle x,y \right \rangle}$

Reply
aocwind says:

02/03/2010 at 8:51 am

打著打著，就打錯了囧
\left \langle x,y \right \rangle= \overline{\left \langle y,x \right \rangle}

Reply
aocwind says:

02/03/2010 at 8:51 am

打著打著，就打錯了囧
$\left \langle x,y \right \rangle= \overline{\left \langle y,x \right \rangle}$

Reply
super6602 says:

11/11/2010 at 1:41 pm

老師今天在內積空間時發現定義與之前看過的內積定義有所不同

像是定義線性時：
=+
=c
剛好與授課內容相反
而下面： _
=(c) 會多一個共軛

在做標準內積運算時，會是：=(yt)x (y做轉置)
在內積空間為實數時，兩種內積運算的結果會相同，但是在複數空間時
=(y*)x (y做共軛轉置) 與上課教授的=(x*)y 兩者結果就會不相同

我在wiki上查到：多數數學家要求內積在第一個參數上是線性的而在第二個參數上是共軛線性的，本文接受這種約定。很多物理學家接受相反的約定。這種改變是非實質性的，但是相反的定義提供了與量子力學中的狄拉克符號更平滑的連接，現在也偶爾被數學家使用。某些作者接受約定在第一個分量是線性的而在第二個分量上是線性的，儘管不普遍。

意思是說，兩者定義都是有人在使用的？

Reply
ccjou says:

11/11/2010 at 3:07 pm

是的，兩種定義都有人使用，數學界在這件事上也沒有統一口徑的定論。撰寫此文時，我只是挑了個人慣用的那個罷了，沒別的意思。就好像說，當我們定義實向量內積時，究竟是
$\langle\mathbf{x},\mathbf{y}\rangle=\mathbf{x}^T\mathbf{y}$
或
$\langle\mathbf{x},\mathbf{y}\rangle=\mathbf{y}^T\mathbf{x}$
都一樣是沒錯啦。量子力學我不懂，不過，前面那個不必換位置，順手就寫出來了。當推廣至複向量時，也只需要將 $\mathbf{x}^T$ 改為 $\mathbf{x}^{\ast}$ ，可是反應在內積定義時，它卻是第二個向量的線性函數，這又與多數人的直覺相反，習慣上，我們不總都是先選第一個嗎？

扯了大半天，只是要強調這事沒有定論，也沒必要（至少就理論而言），因為不論選擇哪個定義，正交條件和向量長度都還是相同的。

Reply
hoolin says:

06/01/2012 at 6:03 pm

非常提供感謝上面的內容，看了博客後本人畢業設計剛好解不開的問題有了思路！

Reply
hiking says:

07/08/2013 at 12:22 pm

請問一下，這是在MetaPost作圖上的問題。
a在b的投影向量，為什麼可以寫成 (a dotprod b / b dotprod b) * b ？也就是
$\vec{v}=\frac{\vec{a} \cdot \vec{b}}{\vec{b} \cdot \vec{b}} \times \vec{b}$

Reply
- ccjou says:
  
  07/08/2013 at 1:32 pm
  
  我將你的迴響編輯過以正確顯示，語法是 $+latex (勿鍵入+) 後面輸入 LaTeX 指令，再加入一個$。設 $\vec{a}$ 在 $\vec{b}$ 的正交投影為 $\vec{v}=k\vec{b}$ 。根據定義， $\vec{a}-k\vec{b}$ 垂直於 $\vec{b}$ ，就有 $(\vec{a}-k\vec{b})\cdot\vec{b}=0$ ，乘開可得 $\vec{a}\cdot\vec{b}=k(\vec{b}\cdot\vec{b})$ ，故 $k=(\vec{a}\cdot\vec{b})/(\vec{b}\cdot\vec{b})$ 。
  
  請參閱下文：
  
  正交投影──威力強大的線代工具
  
  Reply
  - hiking says:
    
    07/08/2013 at 3:28 pm
    
    謝謝您的回應。我想要請問您，我的思考誤區在哪裡。 $\vec{a}, \vec{b}$ 有夾角 $\theta$ ，如果照您本文所推論， $\cos\theta=\vec{a} \cdot \vec{b}\ |\vec{a}| |\vec{b}|$ ， $\vec{a}$ 在 $\vec{b}$ 上的投影向量應為為 $|\vec{a}| \cos\theta \times \vec{b}$ ，將 $\cos\theta$ 代入後，$latex $ |\vec{a}| \cos\theta= |\vec{a}| \times \frac{\vec{a} \cdot \vec{b}}{|\vec{a}| |\vec{b}|} =\vec{a} \cdot \vec{b} / |\vec{b}|$，當然這樣的繪圖結果慘不忍睹，請問這裡面是何處出錯了？
    
    Reply
  - hiking says:
    
    07/08/2013 at 3:48 pm
    
    重發一次。
    感謝您的回應。我想請問您，這個誤區在哪裡，如果 $\vec{a}, \vec{b}$ 夾角 $\theta$ 。 $\vec{a}$ 在 $\vec{b}$ 的投影向量應為 $|\vec{a}| \cos\theta$ ，但這個想法是錯的，把 $\cos\theta=\frac{\vec{a} \cdot \vec{b}}{|\vec{a}| |\vec{b}|}$ 代入後得 $|\vec{a}| \cos\theta= |\vec{a}| \times \frac{\vec{a} \cdot \vec{b}}{|\vec{a}| |\vec{b}|} =\vec{a} \cdot \vec{b} / |\vec{b}|$ 。當然這樣是錯的，但這想法錯在哪裡？
    
    Reply
    - ccjou says:
      
      07/08/2013 at 4:08 pm
      
      投影 $\vec{v}$ 是一個向量， $\vert\vec{a}\vert\cos\theta$ 是 $\vec{v}$ 的有號長度，即 $\vert\vec{v}\vert=\vert\vec{a}\vert\vert\cos\theta\vert$ 。兩者不同。
      
      Reply
      - hiking says:
        
        07/09/2013 at 9:41 am
        
        謝謝您的回答，後來我也找出我原來所思考的誤區在哪裡了。原本我的想法是既然 $\vec{a}$ 在 $\vec{b}$ 的投影是 $|a|\cos\theta$ ，那麼將之直接乘上 $\vec{b}$ 的值就可以了。但我忽略了 $\vec{b}$ 也是有長度的，投影在 $\vec{b}$ 上面長度的比例應是 $\frac{|a|\cos\theta}{|b|}$ 才對。這樣將 $\cos\theta$ 帶入後展開可得 $\frac{\vec{a} \cdot \vec{b}}{|b|^2}=\frac{\vec{a} \cdot \vec{b}}{\vec{b} \cdot \vec{b}}$ 。
        最早的思路如果是乘上 $\vec{b}$ 的單位向量就對了。 $\hat{b} =\frac{\vec{b}}{|b|}$ 。
        
        Reply
        
        suehang says:
        
        06/07/2015 at 12:44 pm
        
        投影(大陆有时称射影)本来就有两种定义,一种就是”长度”(几何定义),一种是投影长度倍的(与b同向)的向量.=投影长度数乘被投影向量b的方向,该方向就是单位化后的b,
Yu-Min Lai says:

04/27/2015 at 5:37 pm

超讚的教學，講的非常清晰。

Reply
Pingback: 转置矩阵的意义 | MatrixC SpaceMatrixC Space
suehang says:

06/07/2015 at 12:40 pm

那两年才学内积的时候,还用夹角余弦的内积表达证明过和差角公式,想想也有些年头了.

Reply
fong yang says:

10/05/2015 at 1:20 pm

請問一下因為內積的定義不唯一以你上面那個例子在複數系 =c*和=c這樣子

但我也有看過有人用 =c和=c*這樣
然後之前有老師說線代只能用 =c和=c*這種定義我不知道對不對
所以想要來請教一下你的看法希望能解答我的疑惑謝謝

Reply
- fong yang says:
  
  10/05/2015 at 1:33 pm
  
  抱歉用打得打不出來我po一下圖
  http://ppt.cc/4dulP
  
  上面的是你的定義下面是另外一種內積定義
  之前有老師說線代只能用下面這種定義
  不知對不對?
  
  Reply
  - ccjou says:
    
    10/05/2015 at 3:46 pm
    
    在應用數學(物理學與矩陣代數)，很多人採用上文的定義。在純數學(傳統線性代數)，多數人使用另一個定義(就是你們老師堅持的定義)。你的老師有說明線性代數為何只能用第二個定義的原因嗎？
    
    請參閱維基百科的解說：
    https://en.wikipedia.org/wiki/Inner_product_space#Alternative_definitions.2C_notations_and_remarks
    
    如果採用上文定義，對於 $x,y\in\mathbb{C}^n$ ， $\left\langle x,y\right\rangle$ 等於 $x^\ast y$ 。如果採用你們老師的定義， $\left\langle x,y\right\rangle$ 等於 $y^\ast x$ 。
    
    Reply
hmg2008 says:

12/22/2015 at 10:47 am

Reblogged this on weijiazhan2008.

Reply
mr liu says:

08/14/2017 at 5:15 pm

原来不需要内积也可以计算向量长度与角度啊！

Reply
liu kang says:

03/15/2018 at 5:47 am

老师，原文在讲性质3时， “則原點至 $i\mathbf{x}$ 的距離 $\Vert i\mathbf{x}\Vert$ 卻為虛數！” 这里应该将虚数改为负数。

Reply
Pingback: 矩阵的4个子空间的关系 – Bruno的个人博客
Hanson says:

06/08/2018 at 9:22 pm

老師好，
在例4那邊定義函數空間的內積時，
第二個Latex是積分式在還沒有take limit的離散形式
那邊是不是應該補一個Δx 對應到積分式的dx？

Reply
Pingback: [math]Proof of dot products | Terry部落格
Pingback: Terminology of Recommendation System – WCN Lab
xmj says:

02/23/2024 at 2:26 pm

內積性質，

$begin{aligned} Vert cmathbf{x}+dmathbf{y}Vert^2&= leftlangle cmathbf{x}+dmathbf{y},cmathbf{x}+dmathbf{y}rightrangle\ &=leftlangle cmathbf{x},cmathbf{x}rightrangle+leftlangle dmathbf{y},dmathbf{y}rightrangle+leftlangle cmathbf{x},dmathbf{y}rightrangle+leftlangle dmathbf{y},cmathbf{x}rightrangle\ &=Vert cmathbf{x}Vert^2+Vert dmathbf{y}Vert^2+overline{c}dleftlangle mathbf{x},mathbf{y}rightrangle+overline{overline{c}dleftlangle mathbf{x},mathbf{y}rightrangle}\ &=Vert cmathbf{x}Vert^2+Vert dmathbf{y}Vert^2+2hbox{Re}(overline{c}dleftlangle mathbf{x},mathbf{y}rightrangle). end{aligned}$

對於所有的 $c$ 與 $d$ ， $Vert cmathbf{x}+dmathbf{y}Vert^2=Vert cmathbf{x}Vert^2+Vert dmathbf{y}Vert^2$ 等價於 $leftlangle mathbf{x},mathbf{y}rightrangle=0$ 。

老师您好，请教一下这里Re(cd<x,y>)实部为0怎么就等价于<x,y>=0了呢？

Reply

	jianglong on Strassen 演算法──分治矩陣乘法
	jianglong on Strassen 演算法──分治矩陣乘法
	xmj on 內積的定義
	Ning ChingSan on 線性代數的第一堂課──矩陣乘法的定義
	momo on 兩岸線性代數用詞參照
	訪客 on 克拉瑪公式的簡易幾何證明