Tag Archives: 仿射空間

Kaczmarz 算法

本文的閱讀等級:中級 Kaczmarz 算法是線性方程 的一種迭代解法,1937年由波蘭數學家科區馬茲 (Stefan Kaczmarz) 所提出[1]。1970年,戈登 ( Richard Gordon)、本德爾 (Robert Bender) 和赫爾曼 (Gabor Herman) 三人重新發現此法,稱之為代數重建技術 (algebraic reconstruction technique),主要應用於電腦斷層掃描的影像重建[2]。我們以包含兩個未知數和兩個方程式的線性方程組 說明 Kaczmarz 算法的基本原理。考慮 , 其中係數 和常數 是實數。當係數矩陣可逆時,線性方程的解為下列兩個超平面 (此例為 平面的二直線) 的交點: 見下圖,給定任一初始點 ,連續交互正交投影至超平面 和 可得一向量序列 ,。當 ,,此即 的解。 Advertisements

Posted in 線性代數專欄, 數值線性代數 | Tagged , , , | 3 Comments

超平面

本文的閱讀等級:初級 在最佳化與機器學習領域,譬如線性規劃、線性判別分析 (linear discriminant analysis)、Logit 模型 (logistic regression) 和多層類神經網路 (multilayer network),超平面 (hyperplane) 是一個常見的模型元件。許多最佳化方法,如梯度下降法、Lagrange 乘數法和對偶理論,也都與超平面有關。本文從幾何與代數兩種觀點介紹超平面的基礎知識,並以凸集為例說明超平面於分割向量空間的應用 (見“凸組合、凸包與凸集”)。

Posted in 線性代數專欄, 仿射幾何 | Tagged , | 17 Comments

答延伸寸──關於線性方程的通解表達

網友延伸寸留言: 本文 (“仿射組合與仿射空間”) 意猶未竟。要如何利用文中的定理來解答下列 link 的第一題呢? http://www.lic.nkfust.edu.tw/ezfiles/5/1005/img/791/982131.pdf 我覺得這一題出得很好。計算不難但若觀念不全通(我就是)的同學解起來會很困難。我甚至建議周老師為本題寫一篇通脈文。   答曰: 我將問題抄錄於下:一線性方程的通解可表示為 或 , 其中 和 是任意參數。求 和 。

Posted in 答讀者問, 線性方程 | Tagged , , , , | 1 Comment

仿射組合與仿射空間

本文的閱讀等級:初級 考慮線性方程 ,所有可能的解稱為通解,具有下列形式: , 其中特解 是指滿足 的任一解,齊次解 則滿足 。除非齊次解僅包含平凡解 ,否則特解和齊次解皆不唯一,故通解有無窮多種表達式。見下例: 的通解可以表示為 , 上式中, 是任意實數,改變 數值即產生新的特解 ,齊次解則為 。幾何空間向量可用其端點表示,上例通解 (即所有特解構成的集合) 是 中一不穿越原點的直線,故不為子空間 (任一子空間必定包含原點)。另一方面,所有的齊次解都位於穿越原點的平行直線上,此即 的零空間 (見“Ax=b 和 Ax=0 的解集合有什麼關係?”)。所以,通解與齊次解之間具有點對點的平移關係,而該平移量可以是任一滿足線性方程的特解 。通解、特解和齊次解之間的關係常令學者感到困惑,本文介紹兩個新概念──仿射組合與仿射空間,希望藉此得以釐清特解和齊次解的幾何意義。

Posted in 線性代數專欄, 仿射幾何 | Tagged , , , | 14 Comments

仿射投影

本文的閱讀等級:中級 令 為一個有限維內積空間。考慮 的平移變換 , 其中 是一個非零向量。平移變換 並非線性變換,而是一個仿射變換 (見“仿射變換”)。設 為 的一個子空間, 自原點平移 後所構成的集合稱為仿射空間 (affine space),表示為 。 除非 ,否則 不包含零向量,因此 不是 的子空間。雖然如此,在仿射空間中仍可以實現正交投影,這篇短文解說如何將一般子空間投影轉換至仿射空間投影,另外並介紹一個基於最佳化理論的計算方法。(本文源於網友 Liang Dai 留言,以下的例子也是由他所提供。)

Posted in 線性代數專欄, 仿射幾何 | Tagged , , , , , | 4 Comments