Tag Archives: 正規方程

每週問題 May 2, 2016

證明正規方程 (normal equation) 是一致的,意指存在解。 Let be an complex matrix. Show that for any , the normal equation is consistent, meaning that it has solutions. Advertisements

Posted in pow 內積空間, 每週問題 | Tagged | 2 Comments

每週問題 January 27, 2014

這是最小平方法的正規方程的等價表達問題。 Let be an real matrix and . Show that is a least squares solution for if and only if is part of a solution to the larger system

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment

每週問題 December 24, 2012

這是最小平方近似函數練習問題。 Let be the continuous functions on the interval with the inner product defined by . Find the closest straight line to over .

Posted in pow 內積空間, 每週問題 | Tagged , | Leave a comment

從線性變換解釋最小平方近似

本文的閱讀等級:初級 在整個線性代數領域,移動向量空間的線性變換以不同面貌貫穿許多重要的主題。線性代數初學者經常將線性變換侷限於單純的幾何變換,例如,旋轉、拉伸、鏡射等,實際情況是線性變換幾乎無所不在,線性變換就隱藏在矩陣向量的乘法運算。直白地說,矩陣向量乘法是線性變換的具體實現,而線性變換則是矩陣向量乘法的情境描述。下面我從線性變換觀點解釋最小平方近似問題的解決過程與意義,透過線性變換觀點不但可使原本抽象的內容變成容易理解的敘事情境,線性變換的映射機制也為線性代數理論與其應用搭建一座橋樑。

Posted in 線性代數專欄, 內積空間 | Tagged , , , , , , , | 13 Comments

從幾何向量空間到函數空間

本文的閱讀等級:中級 基礎線性代數課程常將討論的向量空間侷限於有限維幾何向量空間 ,主要的原因有兩個:第一是不需要透過座標映射便可將矩陣結構與向量空間結合在一起;第二是幾何向量空間,譬如 與 是高中座標幾何的延伸,由此較容易建立起向量空間的觀念。本文採用問答方式,一步步系統化地介紹如何將幾何向量空間延伸推廣至函數空間。

Posted in 希爾伯特空間 | Tagged , , , , , , , , | 20 Comments

通過推導偽逆矩陣認識線性代數的深層結構

本文的閱讀等級:高級 長久以來,機械學習法一直是廣被採用的學習方法,好處是短時間可以看見成效,壞處是很難繼續往前邁進。學習線性代數尤其如此,使用機械學習法頂多只能熟悉幾個演算法,記住一些性質和定理,但絲毫無助於理解線性代數的核心概念與結構。通過推導偽逆矩陣 (pseudo inverse),我們運用線性代數的基本定理將其深層結構,譬如向量空間、線性變換、正交、基底、基底變換等,全部予以呈現出來。無須背誦經文照樣可以輕鬆掌握線性代數的重要概念與技巧,何樂而不為之。

Posted in 線性代數專欄, 二次型 | Tagged , , , , , , , | 6 Comments