留言板

讀者朋友若發現錯誤,敬請不吝指正。惟因工作繁重,恕無法回覆提問。

89 Responses to 留言板

  1. ccjou says:

    自己開個頭。

    • 孟琬瑜 says:

      老師教學好認真喔!
      希望學弟學妹們知道好好珍惜。
      我們讀大學和研究所的時候還沒有Blog。

      • ccjou says:

        縱使你們讀大學的時候已經有blog,我也未必會開這個網誌。那時還沒有夢想要做一個對社會有貢獻的人。

        • 孟琬瑜 says:

          我在youtube看到一段老師上課的影片,想起以前坐在台下聽老師授課、分析問題的情景。
          其實老師一直給我們不少的啟發,雖然效應不見得是立即的。離開學校一段時間之後,才驚覺還能坐在台下聽課,跟老師討論問題,是多麼值得珍惜的時光。

        • 周伯欣 says:

          好奇老師當時自認自己之於社會是怎樣的人?安分守己?無貢獻亦無害?

          • ccjou says:

            以前學藝不精,沒開網誌是因為寧缺勿濫。
            現在不學無術,卻開網誌是因為寧爛勿缺。

            • 張盛東 says:

              老師過謙了,老師您的Blog看得我如痴如醉啊。當初剛發現這Blog之時大有相見恨晚之感。

    • 孟琬瑜 says:

      老師:
      好久不見,新年快樂。
      上學期末寫了一系列【走讀冷水坑】的文章,目前在環境資訊電子報副刊連載。
      並且設計了一堂課跟四年級小朋友分享。也跟老師分享,這是其中的第四篇 :
      http://mypaper.pchome.com.tw/wymeng/post/1326684893

      琬瑜

      • ccjou says:

        新年快樂!
        頭前溪沿岸68快速路兩側任意棄置的廢棄物更讓人怵目驚心。妳要不要立志開始寫《台灣水經注》?

        • 孟琬瑜 says:

          老師:
          謝謝您的分享與建議。
          八年前晨星出版社曾經計畫出一本【溪流散步】,當時我寫過一些頭前溪(後因其他作者之故並未出版)。但現在,看見更多開發永遠放在環境的前面的實例,又比當時更多了些憂慮。我們毀棄的已不只是自己現下的生 活,也虧空著原屬於未來世代的。

  2. 張盛東 says:

    老師您好。最近看了老師不少關於特殊矩陣的介紹受益匪淺,但唯獨找不到老師關於Hessenberg form或者Hessenberg matrices 的介紹。如果老師有空希望能介紹並討論一下這一種特殊矩陣以及其應用。

  3. npes_87184 says:

    如果我知道[T]B到R,有辦法求得[T]R到B?

    • ccjou says:

      能否解釋[T]B到R的意義?符號[T]B所指為何?

      • npes_87184 says:

        SORRY,不會打這樣的符號。 QQ

        • ccjou says:

          請參閱

          基底變換


          最底下圖示和運算公式。

          • npes_87184 says:

            如果T的定義域跟值域都是V,那B跟R是V的兩組基底,T便有兩種表示法,也就是我第一次貼的圖中那兩種,根據那個換底定理,我是不是可以這樣想?

            可能對於這個換底沒有足夠的體悟,還沒領略到本質,導致有點卡。 QQ

            • ccjou says:

              或許用圖形表示更清楚,請參考最下面的那張圖:

              啊哈!原來變換矩陣這麼簡單


              這是結果,中間的論述過程也不應忽略。

              下文針對不同的問法,分別給出兩種推論方式:

              圖解基底變換、座標變換、相似變換與相似矩陣

            • npes_87184 says:

              看完這兩篇花了些許時間,怎麼說呢,這些東西確實很詳細,不過跟我所讀過的兩本線代書中幾乎是同樣觀念。或許是我對於基底轉換不夠了解,或是沒有辦法想通。在觀念中,所有轉換的方法皆是把算子用基底b表示轉換成用基底r表示,但我現在問題卡在,這個算子的矩陣表示不是單純只用一個基底,而是用一個空間中兩個基底來表示,現在要把他相反表示出來。

              實在抱歉不會打出這樣的符號,只好用寫的,字有點醜,sorry。

            • ccjou says:

              你先前寫下的算式即是答案。見下圖

              因此 ~_C[T]_B=(~_B[I]_C)^{-1}~_B[T]_C~_C[I]_B=~_C[I]_B~_B[T]_C~_C[I]_B。改成你使用的符號,即是 [T]_B^C=[I]_B^C [T]_C^B [I]_B^C

            • npes_87184 says:

              謝謝,對於這種圖化表示,可能還要培養。無法想出這種關係圖。

            • ccjou says:

              使用代數方法推導也行,只是比較麻煩。改天我再另文詳細說明。

              (已回覆,見

              答npes_87184──關於參考不同的定義域基底與到達域基底的線性變換表示矩陣轉換問題

            • npes_87184 says:

              恩,謝謝老師,看了很多圖之後,感覺自己也有能力畫出這種圖來,下次有遇到問題再來試試看。發現自己有點執著於用代數去導,現在才想起,以前學代數那些定理不也是用類似這樣的圖在幫助。有點往回走的感覺,受教了。 QQ

  4. npes_87184 says:

    二維空間有旋轉矩陣,典型就是
    \begin{bmatrix} cos\Theta  &  -sin\Theta \\  sin\Theta  & cos\Theta \end{bmatrix}
    那如果擴充到三維,要如何寫出旋轉矩陣?
    應該會有\Theta\Phi吧?
    還是說也可以簡單的使用單一角度表現出來?

  5. 張盛東 says:

    首先感謝老師關於Hessenberg Form的文章,我獲益良多。希望老師如果有時間從線性代數的觀點討論一下Linear Programming中的simplex method。

    • ccjou says:

      好的,過去我也曾動念要寫些關於linear programming的文章。有此一說,simplex method是20世紀最了不起的數學理論之一。

      (已回覆,見

      線性規劃 (四):單形法

    • Watt Lin says:

      我看錯英文字母,把Hessenberg 當作Heisenberg,仔細查,才注意到是不同人。
      印象之中,矩陣乘法交換律不成立,有人曾經採用Heisenberg的例子作說明,PQ不等於QP,而且計算 PQ-QP的差,這是我粗淺的概略觀念。
      老師您若有時間,可否順便談談物理學家Heisenberg測不準原理相關的矩陣運算。

  6. npes_87184 says:

    如何證明線性轉換矩陣表示之後的rank就是線性轉換的rank?

    • ccjou says:

      這個問題可以分解成2個子問題:
      1) 甚麼是線性變換的rank?
      2) 線性變換與其表示矩陣(它也是一個線性變換),這兩個線性變換有甚麼關係?那些性質不改變?rank也是不變的性質之一嗎?
      很明顯的事實反而不容易解釋清楚。最近事情較多,可能晚幾天才回覆。

  7. npes_87184 says:

    任一個向量空間,都會是某一個向量空間的對偶空間?

    不好意思,問題有一點多。

    • ccjou says:

      (1) 若V是一有限維向量空間,則 V**=V,這裡=表示同構(isomorphism)。
      (2) 對於任一V,若V*=W,則V**=W*。由(1)可知V是W*的對偶空間。

      • npes_87184 says:

        所以如果不是equal而是isomorphism便是成立了吧?
        事實上我問的是Friedberg 的線代的題目,P.123 1.(d),不過我感覺這個題目的is很像是equal的感覺。

        • ccjou says:

          說實話,到現在我還是不知道到底數學家說的double dual是甚麼?線性泛函所成的向量空間(對偶空間)的線性泛函所成的向量空間,線性泛函的線性泛函究竟是甚麼東東呀?數學家講出一大堆性質,除了矩陣,我從沒見過其他的例子。

          • says:

            其實dual space 是一種幾何想法,而double dual 在有限維時,基本上就跟原本的向量空間可以被identify 起來,但在無窮維的向量空間會出問題,但是V可以被embedded到V**中是確定的,有關於dual space的幾何想法,請參考Projective Geometry。

            • ccjou says:

              或許投影幾何能夠提供double dual的具體意義,至少在線性代數中,我的疑惑 (說不定也是很多人的疑惑) 是
              1) 線性泛函所成的向量空間(dual space)的線性泛函所成的向量空間(double dual)是甚麼東西?
              2) 為什麼要引進double dual這個概念,有甚麼用途?
              3) 好比「將計就計」可以延伸成「將計就『將計就計』」或「將『將計就計』就計」,V的double dual V**定義為V*的dual,那麼是否可以繼續定義triple dual V***為V**的dual或V*的double dual?

            • says:

              1. 線性泛函所成的向量空間(dual space)的線性泛函所成的向量空間(double dual)是甚麼東西?回應:以我個人的觀點來說,這個問題其實沒甚麼特別的意義,數學是研究事物 “本質” 的學問,所以大部分的定義皆是抽象化後得到的,一般來說,數學名詞的定義都是從一些問題上開始的,比如說 “泛函” ,一開始被考慮是在研究 “變分學” 的問題上頭,當時引入了 “函數空間” 的概念,並考慮從 “函數空間到實數軸上的映射” ,而線性的考慮就成了 “線性泛函” 。

              2. 至於double dual 的原始來源,其實就是在探討 “射影幾何中的對偶性” ,我這樣說明如下:以2維射影空間來舉例,aX+bY+cZ=0 代表一條射影直線,如果今天我們考慮兩條射影直線如下
              a_1 X + b_1 Y + c_1 Z = 0
              a_2 X + b_2 Y + c_2 Z = 0,

              若去解聯立方程組,得到的解集合其實就是這兩條直線的交點(X_0, Y_0, Z_0),將它帶入方程組會得到
              a_1 X_0 + b_1 Y_0 + c_1 Z_0 = 0
              a_2 X_0 + b_2 Y_0 + c_2 Z_0 = 0,

              這個時候如果我們將方程改成

              X_0 a_1 + Y_0 b_1 + Z_0 c_1 = 0
              X_0 a_2 + Y_0 b_2 + Z_0 c_2 = 0,

              是不是就可以換個說法,(a_1, b_1, c_1) 和 (a_2, b_2, c_2) 落在直線

              X_0 X + Y_0 Y + Z_0 Z = 0

              上頭呢~~,這就是在說明有限維空間中V** = V,換言之,V* 就是把 “直線看做點”,而V** 就是相反的把 “點看做直線” ,如此,「兩線交於一點」與「兩點連成一線」就可以看做一體的兩面,謂之為「對偶性(Duality)」,而這樣的考慮同樣出現在了 “線性規劃與作業研究” 的領域中,也就是考慮問題的 “對偶面” ,也就是說,今天欲解一個問題,如果直接做不好做,就考慮其 “對偶問題” 來做,這樣的引進在管理學的問題中是大有用處在,而在其他自然科學的問題中也是,現在在物理學中,學科之間的對偶性,是挺重要的話題 ^___^。

            • ccjou says:

              謝謝你詳盡的回覆。先前我提出的疑惑是關於double dual的(1)what(2)why(3)how,並不是dual space或duality。我特別想知道為什麼要定義double dual,因為長久以來David Hilbert說的一段話像鬼魂一樣纏著我不放。

              An old French mathematician said: A mathematical theory is not to be considered complete until you have made it so clear that you can explain it to the first man whom you meet on the street. This clearness and ease of comprehension, here insisted on for a mathematical theory, I should still more demand for a mathematical problem if it is to be perfect; for what is clear and easily comprehended attracts, the complicated repels us.

              按照這個標準,我渴求的是clearness and ease of comprehension of double dual。當然我會繼續努力希望終有一天能夠解釋double dual給祖母聽,而不是這些:

              http://math.stackexchange.com/questions/170481/motivating-to-understand-double-dual-space
              http://math.stackexchange.com/questions/293401/motivation-for-the-double-dual?rq=1

            • says:

              我上頭有解釋了呀~~ 這樣做對於很多問題的考慮會變得較易處理呀~~ 想要更進一步的體會的話,我建議讀讀泛函分析或是變分學,不過最重要的想法還是在於射影幾何,就是因為發現了那個對偶性,以及眾多問題都有的共通性質,所以才會去定義二次對偶空間,數學的定義不是空洞沒來由的,絕對都是因為問題研究有需要,並且是大量的需要,線性代數的東西,不是只有矩陣可以看而已,有純代數的考慮,有幾何上的應用,有分析上的問題,沒有人可以只看線性代數,就有辦法完全洞悉其中的道裡的,至少這是我的體會 :))))

        • ccjou says:

          謝謝指教 。

          • says:

            ㄜ…..不好意思,如果我的言語有任何讓您覺得不禮貌的地方,我向您道歉 > < …
            畢竟我只是想輕鬆地討論這個話題而已~~

            • ccjou says:

              不要緊。老實說,除了指導教授逼我修了一門differential geometry,我從沒修過其他數學系開的課。承認自己的不足並不丟臉,我仍會持續努力釐清double dual的問題。

              (後註:已回覆於

              雙重對偶

  8. npes_87184 says:

    如何使用座標轉換的觀點來把圓錐曲線的一般式,用一個正交基底表示成所謂的標準式?

  9. npes_87184 says:

    pseudoinverse 偽反矩陣,如何證明 (AB)^+=B^+A^+ 。

  10. perlpython says:

    老師 你好
    我想請問一下,關於二維空間的旋轉矩陣。它在角度等於0度和180度時,分別會有eigenvalue = 1,-1,這是很直觀從圖形上就可以得到的結果。此外,當角度是其他度數時,很明顯eigenvalue是不存在的,在實數域上因而沒辦法對角化。然而,當討論的區域是複數系時,對於旋轉矩陣而言,它是有辦法對角化的嗎? 因為我在課本上只讀到,複數系有機會對角化,只是我不知道從何下手去討論? 或是有背後的理論知識,如果有專有名詞,懇請老師稍微點一下,謝謝,感激不盡~~

  11. levinc417 says:

    老師好,以前舊站的「交流園地」(應該沒記錯名稱?) 後來有回復成功嗎?還是已經變成歷史灰燼了…看到一個以前似乎曾討論過的問題,我也忘了怎麼解…….><

  12. 張盛東 says:

    周老師,對不起,都初六了才想起和老師拜年。祝老師龍馬精神,身體健康,萬事如意。

    • ccjou says:

      謝謝,也祝你新年新氣象。

      正月初六,開工吉時:午未時 (11:00-15:00),就是現在。

  13. 張盛東 says:

    周老師,現在機器學習這方向很熱啊,老師有空的時候可否寫一下關於線性判別分析或者logistic regression的文章?

  14. DDriver says:

    老師你好,無意間發現這個blog,感覺像發現什麼珍寶,很開心!
    我想問一下,如何證明或證偽,same size、same null space的兩個矩陣的reduced row echelon form也是相同的?
    這是一個intuitive的問題,但我卻怎麼也證不出來。

    • ccjou says:

      這個命題的確很直覺,多數的線性代數課本不提供證明。reduced row echelon form 唯一決定 nullspace,反之亦然,下文提供二個算法證明:

      零空間的快捷算法


      故同尺寸矩陣 AB 若有相同的nullspace,必然有相同的reduced row echelon form。

      另一個方法:若 AB 有相同的nullspace,則 AB 有相同的row space,即兩者列等價,存在一可逆矩陣 M 使得 A=MB。列等價矩陣有共同的唯一reduced row echelon form,見

      矩陣的等價關係

      • DDriver says:

        沒有想到能這麼快就得到老師的回覆,非常感謝!期末考試在即,沒有足夠時間好好研究老師的blog,看來只有考完繼續看了 :-)

  15. Eden says:

    老師您好
    最近因為研究上發現 Unitary 矩陣的一個現象

    假設A為一個 N by N 的 Unitary,A的 x 次方(x為某個N的倍數)必定會變成單位矩陣
    自己一直從 Unitary 的特徵值(特徵值大小都會是1)變化去思考
    但目前還是只知道次方項 x 會是 N 的倍數
    想了解 x 和 N 之間的確切關係

    不知道老師對我提的問題是否清楚,
    方便給點提示或是思考方向之類的嗎?

  16. 黃胤凱 says:

    周老師您好!想請問周老師,當我們在定義R^n->R函數的critical points 是指該點的gradient=0。 但在R^n->R^m 的函數上 為何定義卻變成是該點的Jacobian matrix不是滿秩即為critical point? 要如何理解這個條件?背後有沒有什麼原因造成這個條件呢?

  17. wonderlandtommy says:

    版主好,
    請問若要閱讀群環體模、Galois、Sophus Lie等人的理論,應該找哪些書?

    • ccjou says:

      任何一位對計算機理論有興趣的人都不應錯過Minsky與Papert的經典大作
      https://mitpress.mit.edu/books/perceptrons

      光是讀第0章Introduction都會得到很多啟發:

      The immaturity shown by our inability to answer questions of this kind is exhibited even in the language used to formulate the questions.

      Good theories rarely develop outside the context of a background of well-understood real problems and special cases.

      The reader of most modern mathematical texts is made to work unduly hard by the authors’ tendency to cover over the intellectual tracks that lead to the discovery of the theorems…Our aim is not so much to prove theorems as to give insight into methods and to encourage research. We hope this will be read not as a chain of logical deductions but as a mathematical novel where characters appear, reappear, and develop.

      Perceptrons 是一本值得精讀的數學小說。

  18. wonderlandtommy says:

    請問版主有沒有有關張量的八卦?

  19. 吳涵震 says:

    網路上極其少有關於Regular矩陣的描述,希望能有機會看到周老師的文章提及。
    在馬可夫過程的文章中最下面有幾個馬可夫矩陣A必成立的東西,希望可以了解此馬可夫過程的證明,謝謝。

    • ccjou says:

      Stochastic (Markov) matrix 的分析有些複雜,要講清楚須花點時間梳理。Stochastic matrix 的很多性質來自非負矩陣,請參考下文:

      特殊矩陣 (21):非負矩陣

      • 吳涵震 says:

        謝謝周老師的回應
        請問Regular matrix 跟stochastic matrix的關聯性是什麼?網路上及課本都常常有這兩個詞,但不太明白是什麼!
        現在只是一個初學線性代數的大一生 ,很謝謝周老師的文章解決了我非常多的疑惑,也從中學到了很多!

        • ccjou says:

          Regular stochastic matrix (RSM) A 是指某個冪矩陣 A^k 的所有元都大於零。例如,
          A=\begin{bmatrix} 0&0.5\\ 1&0.5 \end{bmatrix}A^2=\begin{bmatrix} 0.5&0.25\\ 0.5&0.75 \end{bmatrix},故 A 是 RSM。

          RSM 有些特殊性質:
          1) A^n\to BB 稱為 A 的 Stable matrix。
          2) B 的所有行 (column) 都相同,表示stable distribution。

          上例,A^n\to \begin{bmatrix} 0.333&0.333\\ 0.667&0.667 \end{bmatrix}

  20. 胡哲維 says:

    老師您好!
    在講義LECTURE45 p224中寫道:Normal Equation 有解的充分條件是A has independent cols.
    但是A^TA必對稱,對稱必正交可對角化,則A^TA必為可逆矩陣,即 for any A, Normal equation has solution.
    以上為我的疑問,煩請老師了,感謝!
    學生

  21. cy says:

    老師您好,我上的課正在講關於多項式矩陣的行列式因子組和不變因子組等內容,有些不是很理解這些和其他內容的關系和意義,煩請指教,多谢!

  22. Dengdi says:

    周老师您好,请问为什么我打开您的网页所有的图片和公式都看不见,只看到一个无法打开的图片图标和Latex代码,是否需要安装某种插件?

    • ccjou says:

      WordPress有LaTeX rendering,不需要安裝插件。不能顯示可能是web proxy的問題。

  23. K says:

    周老師你好 我是景仰你的一位國內理工科系學生 不間斷拜讀你的文章後 對線性代數有了初步的認識 可是最近發現老師已有數月沒有消息 聽說老師加入AI Lab 想關心老師近期狀況

    • ccjou says:

      數月前我離開交大後便進入台灣人工智慧實驗室,目前我們仍在招募工程師,歡迎有志者加入,詳情見ailabs.tw。

      • K says:

        謝謝老師抽空回應 ! 老師花大半時間投身教育 ,影響無數學子,如今線代啟示錄仍是台灣線代教育的指明燈 ; 現老師投入科技前線,為台灣的未來打拚,十足為後進典範,期許自己在未來也能對社會做出貢獻,最後祝福老師工作之餘,保重身體,近來天氣漸轉涼,老師要多加件衣服!

  24. Ethan Tang says:

    周老师您好,请问三维空间中的一个平面,求绕其内部一条直线旋转某一固定角度后形成的新平面按照您所著《三維空間的旋轉矩陣》求得,如果这个拓展到更高维度呢,比如30维,能否请您给一些提示,谢谢周老师

  25. laughing says:

    很棒的學習網站 希望能繼續更新

Leave a comment