back to index
Linear Algebra Lecture 25: Eigenvalues and Eigenvectors

link |
今天我們要進入第五章,第五章講什麼呢?
link |
第五章的開頭就是要告訴我們,什麼叫Eigenvalue,什麼叫Eigenvector。
link |
好,第五章我覺得它最主要的內容是這樣,在第四章裡面我們講到coordinate system的概念,
link |
然後我們說我們可以從不同的角度來看待同一個function,那可能可以把一個function變得更簡單。
link |
我們在另外一個空間,用另外一個coordinate system來看待一個function,可能會讓這個function變得更簡單。
link |
但我們沒有講的事情是說,怎麼樣找一個好的coordinate system。
link |
在第四章的時候,我們只說有可能找出一個好的coordinate system,讓你的function變得比較簡單,但是怎麼找,沒有告訴你怎麼找。
link |
在過去,在第四章的時候,我們就是憑著直覺,看說哪一個coordinate system可能是會讓function變得簡單的。
link |
但在第五章,會有一個系統化的方法告訴你說,怎麼找出一個可以簡化function的coordinate system。
link |
第五章的範圍,我們就會講五之一到五之四,其實五之四是有加星號的,有加星號是什麼意思呢?
link |
有加星號的意思就是考試是不會好的,不過我們還是需要講一下,為什麼呢?
link |
因為五之四它是講應用,它是講diagonalization,我們會講一個東西叫做diagonalization,它會講diagonalization的應用。
link |
那如果只有講diagonalization,卻沒有講應用的話,你就會覺得說不知道這個東西到底可以幹嘛,所以我們應該要講一下五之四有關應用的部分。
link |
那這份投影片要講的呢,首先第一件事就是要告訴大家什麼是eigenvalue跟eigenvector,
link |
然後接下來要告訴大家說,eigen是什麼意思呢?eigen是德文裡面unique to和belonging to的意思。
link |
那過去eigenvalue或eigenvector也有人叫做proper value, proper vector,
link |
那proper這個意思在這邊應該不是把它翻做適當的,而是也是翻成是獨有的,就跟這邊eigen一樣,eigen是unique to的意思,proper也可以翻成獨有的意思。
link |
不過現在已經很少有人用這樣子的說法了,現在都叫做eigenvalue跟eigenvector。
link |
那接下來會告訴大家說,假設已經給定了eigenvalue,怎麼找eigenvector?
link |
好,那我們會知道在給定eigenvalue的情況下怎麼找eigenvector。
link |
接下來再告訴你說,那我們怎麼確定某一個數字它是不是某一個matrix的eigenvalue?
link |
最後再告訴大家說,如果給你一個matrix,怎麼把它所有的eigenvalue通通都找出來?
link |
那這個部分呢,對應到課本的5.1跟5.2。
link |
好,接下來呢,就告訴大家什麼是eigenvalue跟eigenvector呢?
link |
如果今天有一個vector v,有一個scale的浪檔,然後你把這個vector v跟某一個matrix A做相乘,我叫個比出來這樣子。
link |
如果你把這個vector v跟某一個matrix A相乘,然後它會等於v乘上浪檔。
link |
那這意味著什麼呢?這意味著說v就是這個matrix A的eigenvector,而浪檔就是這個matrix A的eigenvalue。
link |
然後這個浪檔,它對應的eigenvector v呢,它對應的eigenvalue就是浪檔。
link |
我發現我這個不知道為什麼它不能夠寫,很神奇。我把它跳出去,然後再跳進來試試看。
link |
不行耶,我知道了,一定是弄成白色,對不對?不是啊,我覺得這電腦有點怪怪的,等一下重開機好了啦。
link |
我換個顏色,比如說換個黑色,還是不行啦,這太奇怪了。突然就好了,就是需要重開機,對啦,就是需要重開機。
link |
好,那今天是這樣啦,就是如果A乘上v,會等於v乘上某一個scale的浪檔,那這個v呢,就叫eigenvector,那這個浪檔呢,就叫eigenvalue,結束。
link |
舉例來說,我們這邊有一個3乘以3的matrix,那我把這個3乘以3的matrix呢,乘上1-1-1。
link |
那這個3乘以3的matrix乘上1-1-1是多少呢?那這個大家都知道,一個矩陣跟一個向量怎麼相乘的,算出來的就是4-4-4,那4-4-4是4倍的1-1-1。
link |
所以你現在呢,把這個matrix A乘上某一個vector v,會得到浪檔,浪檔這邊等於4,會得到浪檔倍的v。所以今天呢,這個1-1-1它就是一個eigenvector,它就是一個eigenvector。
link |
而浪檔呢,也就是4呢,它就是一個eigenvalue,這個就是eigenvalue跟eigenvector的定義。
link |
那這邊你要注意一件事情,首先,我們在討論eigenvalue跟eigenvector的時候,我們只考慮我們的matrix是正方形,是square的狀況。
link |
為什麼?因為想想看,今天如果一個A它不是正方形的,它乘上任何向量v都不會變成向量v的浪檔倍,因為dimension根本就變啦。
link |
所以matrix A如果不是正方形的,你就不會考慮什麼eigenvalue、eigenvector之類的問題,這是第一件要注意的事。
link |
第二件要注意的事情是,當我們在討論eigenvector的時候,我們是不考慮zero vector的。
link |
就注意一下哦,就是我們在討論eigenvector的時候,我們是不考慮zero vector的,zero vector顯然符合上面這個定義,因為假設今天v呢是一個zero vector,
link |
A乘上zero vector,那我們都知道A乘上zero vector,它就是等於zero vector,所以我可以說A乘上zero vector等於zero vector乘上任何的浪檔。
link |
這個浪檔可以是任何值,比如說它可以等於π這樣子,它可以等於π,它也可以等於一兆,它也可以等於-3.6,它可以是任何的值。
link |
所以如果今天你把zero vector當作是eigenvector的話,那任何浪檔它就都可以是eigenvalue了,那這樣就很奇怪,
link |
因為eigenvalue其實是一個獨特的東西,我們之後會告訴你說給一個matrix,你把它的eigenvalue找出來。
link |
但是如果你把zero vector也當作是一個eigenvector的話,那會變成找eigenvalue這件事沒有任何意義,因為任何值都是eigenvalue。
link |
所以我們今天在定義上,zero vector它不是eigenvector,那這個是一個大家必須要把它記住的定義。
link |
好,那我們又說每一個matrix其實都對應了一個linear的function,或者是我們說linear的operator。
link |
所以今天對一個linear operator來說,它的eigenvector或eigenvalue是什麼呢?就是你把一個vector v,帶進這個linear operator裡面,
link |
它的輸出是直接把v乘上浪檔倍,你把v帶進去這個function裡面輸出,就是把輸入的v乘上浪檔倍,
link |
那這個時候我們就說,v是一個eigenvector,而浪檔是一個eigenvalue。
link |
當然這邊同樣,我們必須要考慮輸入不為0的狀況,zero vector它不是一個eigenvector,zero vector不能當作eigenvector來看待。
link |
好,那接下來呢,我們就是舉一些eigenvalue跟eigenvector的例子。
link |
舉例來說,這邊有一個linear operator,這個linear operator叫做shear的transform,它的input跟output的關係呢,我們寫作這樣。
link |
當你input x跟y的時候,它的output就是把x加上n倍的y,但是y座標不變,它只會改變x座標,它不會改變y座標。
link |
那你可能一時很難想像說,這個shear的transform長什麼樣子,那我們就把它的圖畫出來。
link |
就假設說現在有一張圖,這個圖是蒙娜麗莎的微笑,它裡面的每一個pixel就代表了xy座標上面的一個data point,代表了xy座標上面的一個點。
link |
比如說它的右眼就代表了xy座標上的一個點,那如果做shear transform,你就是把這張圖稍微做一下扭曲,會變成什麼樣子呢?
link |
會變成說,如果今天這個點距離x軸越遠,它的變化就越大,因為假設你今天這個y的值越大,那加上n倍的ny的時候,你的差異就越大。
link |
所以今天如果一個點距離x軸越遠,它在x軸第一個element的變化就越大。
link |
那如果今天某一個向量它是平躺在x軸上的,也就是說它y軸的座標根本是0,它的y座標是0,它的y座標是0,它的y座標是0。
link |
如果某一個向量它的y座標根本就是0,那做完shear transform以後,這個向量跟原本的向量是一模一樣的。
link |
那這個時候呢,這個向量它就是一個eigenvector,為什麼它是一個eigenvector呢?
link |
因為我們把藍色這個向量帶到shear transform以後,得到的結果仍然是它自己。
link |
也就是說,你把V,假設這個向量叫做V,帶到這個transformC裡面,得到的output是一倍的V,還是V自己。
link |
所以V呢,這個藍色的箭頭呢,它是一個eigenvector,而這個eigenvector的eigenvalue是多少呢?
link |
這個eigenvector的eigenvalue呢,它就是1。
link |
好,剛才舉的是shear transform,再舉另外一個例子,比如說有一個function呢,它的工作就是做reflection,它是對y等於1x這一條斜線做reflection。
link |
那這個時候呢,假設你有一個vector b1,這個vector b1它是落在y等於1x的這一條斜線上面,
link |
那你把b1帶到這個reflection的這個function T裡面,那你的輸入會跟輸出是一樣。
link |
這個時候呢,你的b1它就是一個eigenvector,而它的eigenvalue就是1。
link |
如果我們現在把b2帶到這個reflection的function裡面,假設b2跟y等於1x是垂直的。
link |
我們把b2帶到這個function裡面,它的輸出會是-b2,那b2它也是一個eigenvector,而它的eigenvalue就是-1。
link |
好,所以這個例子告訴我們說,假設你有一個reflection的operator,這個reflection operator是跟y等於1x這一條直線做reflection。
link |
這時候,根據這個圖上的例子,b1是一個eigenvector,它的eigenvalue是1,b2也是一個eigenvector,它的eigenvalue是-1。
link |
好,那這邊再舉另外一個例子,這個例子是把一張圖做放大和縮小的例子。
link |
舉例來說,這個是玉版美琴,玉版美琴大家應該知道,電磁泡是這樣子的,為什麼?這個等一下下課再解釋。
link |
好,然後這個是玉版美琴,我們假設這張圖片上的每一個pixel就是xy座標的一個點,那你把每一個xy座標上面的點都做expansion的話,得到的結果就是這樣。
link |
你把這上面的每一個點xy都乘上2002這個transform,那你就是把這個image做expansion。
link |
那如果你把上面的每一個vector都乘上,比如說這邊有一個黃色的vector,你把這個vector乘上0.5,0,0,0.5,那它就縮小了,變成這個樣子,那這個對大家來說應該都是非常直覺的。
link |
那對這個expansion跟這個compression這兩個transform來說,它有哪些的eigenvalue,它有哪些的eigenvector呢?
link |
你會發現說,對expansion跟compression來說,所有的vector都是eigenvector,所有的vector都是eigenvector,為什麼?
link |
因為你隨便拿一個xy跟2002這個metric做相乘,你得到的結果都是兩倍的xy,對不對?這個應該不需要說明,都是兩倍的xy,都是xy。
link |
所以任何vector對expansion來說都是eigenvector,任何vector乘上expansion的這個metric,它都會變成兩倍的xy,
link |
那任何vector乘上這個compression的metric,它都會變成二分之一倍,也就是0.5倍的xy,所以任何vector都是eigenvector。
link |
但是對expansion來說,它的eigenvalue是2,對compression來說,它的eigenvalue是0.5。所以雖然說對expansion跟compression來說,這兩個function它們的eigenvector是一樣的,但是這些eigenvector和對應的eigenvalue是不一樣的。
link |
那在做這張圖的時候,我就會遇到一個問題,就是我一直覺得這一條線看起來感覺好像是比這一條線還要長的,但它們事實上是不是真的是比較長的呢?
link |
我們就來問一下大家的看法吧,你覺得上面這一條線比較長的同學舉手一下?你有沒有做過那種錯覺的遊戲?你覺得下面這條線比較長的同學舉手一下?
link |
沒有,你覺得它們其實一樣長的同學舉手一下?好,有同學覺得它是一樣長的。我實際上量一下發現,下面這條線其實還是比較長的。
link |
就這樣子,這是一個無聊的記憶衝擊。你回去自己拿那個,我忘了把抽屜片放在網站上,等一下放上去,你自己量一下,下面這條線其實是比較長的,這不是一個錯覺,它確實是比較長的。
link |
好,那再來的問題是說是不是所有n乘以n的metric或是linear operator它都有eigenvalue或eigenvector呢?答案是不是,你可以找到一些function,找到一些linear transform,它是沒有eigenvalue和eigenvector的。
link |
怎麼說呢?舉例來說,旋轉這樣子的linear operator,它就沒有eigenvalue或者是eigenvector。舉例來說,這個圖是寶多六花這樣子,但這個寶多六花它其實在cosplay小鳥遊六花這樣子,我真的沒有人知道我在說什麼,因為我也不知道我自己在說什麼。
link |
這個是六花在cosplay六花,雖然我知道大家不知道我在說什麼,不過沒有關係。好,把這張圖片做旋轉,我們做一個旋轉的operation,變成這個樣子。
link |
那你會發現說,旋轉的這個operation,把任何的vector做旋轉都不會變成它自己。比如說,這邊有一個黃色的vector,有一個藍色的vector,做旋轉以後,它們的位置就變了,它不會變成自己的n倍,任何vector做旋轉以後都不會變成自己的n倍。
link |
所以我們知道說,rotation這個operation,它是沒有eigenvalue跟eigenvector的。好,那接下來呢,我們要問的問題就是,怎麼找出eigenvector,在假設我們已經告訴你eigenvalue的情況下,怎麼找出eigenvector。
link |
好,那這邊要告訴大家的事情是說,每一個eigenvector,它都對應到一個unique的eigenvalue。那這個很直覺,就不需證明,直覺就是這個樣子。
link |
但是,每一個eigenvalue,它可以對應到無窮多的eigenvector。好,所以一個eigenvector,它就會對應到一個eigenvalue。那一個eigenvalue,它會對應到無窮多的eigenvector。
link |
怎麼說呢?這邊就隨便舉一個例子。假設我有一個matrix A,然後我這邊有兩個vector,一個是v,一個是u。好,然後我們現在把A跟v相乘,得到-1,0,得到-1,0。
link |
那這個時候你會發現說,這個v它確實是一個eigenvector,因為v乘上A,會等於-1倍的v。好,所以v是一個eigenvector,而它對應的eigenvalue就是-1。
link |
那我們把u乘上這個vector,乘上這個matrix,我們發現我們得到的結果是0,-1,1。所以把u乘上這個matrix,得到的結果是-u,所以u也是一個eigenvector,它對應的eigenvalue也是-1。
link |
所以同樣的eigenvalue-1,它可以對應到1,0,0是一個eigenvector,0,1,-1也是一個eigenvector。那事實上,你要了解說一個eigenvalue,同一個eigenvalue可能有無窮多的eigenvector,這件事情是非常簡單的。
link |
因為假設我們已經知道說,1,0,0它就是一個eigenvector,它對應的eigenvalue是-1,那你其實把1,0,0隨便除個值,比如說把它除2,這個1,0,0這個vector,它也會是一個eigenvector,它的eigenvalue一樣仍然是-1。
link |
所以這邊要強調的就是說,同一個eigenvalue會有很多不同的eigenvector。那再來問題來了,今天呢,對應到同一個eigenvalue的eigenvector,它們是不是一個subspace呢?
link |
我覺得一個eigenvalue,它對應到無窮多的eigenvector,因為我這邊把這個eigenvector除2,是一個新的eigenvector,它對應到同一個eigenvalue,除3,也是同一個eigenvector,也是新的eigenvector,對應到同一個eigenvalue,除開,也是一個eigenvector,對應到同一個eigenvalue,所以有無窮多的eigenvector。
link |
但這些無窮多的eigenvector統統集合起來,它是不是一個subspace呢?給大家5秒鐘的時間想一下。
link |
你覺得它是一個subspace的同學舉手一下,有些同學覺得是,你覺得它不是一個subspace的同學舉手一下,有些同學覺得它不是,那就給大家一些提示吧。記不記得subspace的定義是什麼?
link |
我們說,假設V是一個在subspace裡面,那C倍的V也應該在subspace裡面,那如果我們今天說V它是一個eigenvector,假設A乘上V等於浪達倍的V,
link |
代表V是對應到浪達的一個eigenvalue,一直說錯,V是對應到一個浪達的eigenvector,那現在把A乘上C倍的V,那是不是等於C倍的A乘上V?
link |
然後呢,A乘上V又可以寫成浪達V,A乘上V又可以寫成浪達V,所以你得到C倍的浪達V,然後呢,你再把浪達跟C交換一下,變成浪達乘上C乘上V,浪達乘上CV,CV。
link |
所以顯然呢,C乘上V,這個vector它是一個eigenvector,它是A的eigenvector,它對應的eigenvalue也是浪達,所以它符合這個subspace的其中的特性。
link |
好,那再來,如果今天subspace的另外一個特性是,如果A跟U都是對應到浪達的eigenvector,所以A乘上U也等於浪達U,也等於浪達U。
link |
那你把A乘上V加U,這個我就懶得證明了,你想想看,A乘上V加U,它顯然你最後就會發現說,V加U它也是A的eigenvector,它也對應到同樣的eigenvalue。
link |
所以,這樣提示完了,我們再問一次吧,你覺得同一個eigenvalue,它的eigenvector所形成的這個vector set,它是一個subspace的同學舉手一下。
link |
還是有同學覺得不是subspace,你覺得為什麼不是subspace呢?對,沒錯,就是它沒有零相量這樣子,所以這是一個陷阱,它不是一個subspace,它不是一個subspace。
link |
為什麼?因為我們說zero vector不是一個eigenvector,所以zero vector不是一個eigenvector,所以所有的eigenvector所形成的集合不可能是一個subspace,因為你沒有zero vector這樣,所以這件事情就是這樣,定義就是這樣。
link |
所以如果有人隨便出一個是非題問你說,所有對應到同一個eigenvalue的eigenvector所形成的集合是不是一個subspace,不是,因為沒有包含zero vector。
link |
好,那接下來我們還是要討論一下同一個eigenvalue所對應的eigenvector所形成的集合長什麼樣子。
link |
好,那我們現在假設說lambda是matrix A的eigenvalue,那我們把所有對應到lambda的eigenvector把它找出來,怎麼把所有對應到lambda的eigenvector把它找出來呢?
link |
你就按照eigenvector的定義,這些對應到lambda的eigenvector,它們乘上matrix A以後應該要等於lambda倍的V,把這些V乘上A以後要等於lambda倍的V。
link |
然後就做一下移項,把右邊的式子挪到左邊來,所以AV減lambdaV等於0,然後接下來把lambdaV改成lambda乘以identity matrix再乘以V。
link |
那這個步驟沒有什麼問題,對不對?lambdaV等於lambda乘以identity matrix再乘上V,我想這對大家來說應該沒有問題。
link |
然後把V提出來,所以A減掉lambda乘上identity matrix,再乘上V會等於0。
link |
那這邊要強調一下,A減掉lambda乘以identity matrix,它是一個matrix,這樣大家了解了嗎?就是假設你有一個matrix A,它長這樣子,那我們把它對角線的element都寫出來,用圈圈來表示。
link |
那A減掉lambda乘上identity matrix是什麼意思呢?其實就是把A這個matrix,它對角線上的每一個element都減lambda。
link |
這個matrix的大小其實不變,所以A減上lambda乘以identity matrix,還是同樣大小的A,只是它會把對角線的部分通通減掉一個lambda,得到一個新的matrix。
link |
那Eigenvector是什麼呢?Eigenvector就是這一個式子的solution,扣掉,這邊還特別用紅字,扣掉0的vector。也就是說,這一個式子,它的solution,扣掉0的vector,就是你的Eigenvector。
link |
所以我們可以說,對應到lambda的Eigenvector,它所呈的集合長什麼樣子呢?它所呈的集合就是A減lambdaIN的這個matrix的null space,這個就是定義嘛,大家應該還記得null space是什麼吧,這個V它就是null space裡面的一個vector。
link |
所以A減lambdaIN的null space,扣掉0的vector,就是對應到lambda的Eigenvector。接下來呢,我們定義一個東西叫做Eigenspace。
link |
什麼是Eigenspace呢?lambda的Eigenspace就是A減lambdaIN的null space,加上0的vector,就變成Eigenspace。
link |
所以Eigenspace裡面並不是所有的vector都是Eigenvector,因為zero vector不是Eigenvector。但是我們為了要讓以下的討論比較方便,所以我們說每一個lambda,它都對應到一個Eigenspace。
link |
那Eigenspace是什麼?Eigenspace是所有的對應到lambda的Eigenvector,加上0,把它組成一個space,這個space就是lambda所對應的,lambda這個Eigenvalue所對應的Eigenspace。
link |
好,這樣大家這個有問題嗎?我知道這個聽起來,你可能如果第一次聽到,哇,搞什麼,這樣把0拿掉,然後又硬塞進去,但定義就是這樣子。
link |
好,大家OK嗎?好,如果沒有人有問題的話,我們就繼續。
link |
那接下來我們要問的問題是,剛才是說給你一個Eigenvalue,你已經知道怎麼找Eigenspace。
link |
那接下來呢,就是怎麼確定一個scalar它是不是一個Eigenvalue呢?怎麼確定一個scalar lambda它是不是Eigenvalue呢?
link |
那其實非常簡單,你就看它的Eigenspace長什麼樣子,而如果某一個值lambda,它的Eigenspace裡面只有zero vector,那這個lambda它就不是Eigenvalue。
link |
如果這個lambda它的Eigenspace是有zero vector以外的東西的,也就是它有Eigenvector的,那這個lambda就是一個Eigenvalue。
link |
所以很簡單,就是你怎麼要知道某一個lambda它是不是一個Eigenvalue呢?那你就看一下它的Eigenspace的dimension。
link |
如果某一個數值lambda,你把它帶到這個式子裡面,然後你想要知道lambda是不是A的Eigenvalue,那你就計算A-lambdaIN,然後找它的normal space。
link |
你會發現你找出來的normal space,它的dimension是0,也就是說這個normal space裡面只有zero的vector,那代表說沒有Eigenvector,就代表說lambda不是Eigenvalue,就這樣子。
link |
那這邊就是舉一個例子來告訴大家說,這邊有一件事可以提醒大家一下,那你可能會問說,那我怎麼知道現在的normal space是不是dimension是不是0呢?
link |
我怎麼知道現在的normal space是不是只有包含zero vector呢?那你就要用我們之前學到的檢查subspace大小的方法。
link |
舉例來說,你可以說如果今天A-lambdaIN,它裡面的vector都是independent的,如果A-lambdaIN裡面的vector都是independent的,那就代表說normal space一定只有zero vector,這個時候lambda就不是Eigenvalue。
link |
如果今天lambda是Eigenvalue的話,那A-lambdaIN,它的column都會是dependent的,這個時候normal space的dimension就會大於0。
link |
所以你可以去藉由check A-lambdaIN的性質,比如說你check它的column是dependent還是independent的,那你就可以知道normal space的大小。
link |
那這邊就只是一個範例,我們現在來檢查說3√2是不是下面這個linear operator的Eigenvalue,那這個linear operator它當然是對應了一個matrix,那我們把這個matrix A寫出來,就是0√2√3E。
link |
那接下來你要做的事情就是check說,假設你要check3是不是Eigenvalue,那你就先把A-3√IN這個matrix拿出來,然後看看這個matrix長什麼樣子。
link |
這個matrix長什麼樣子呢?A-3√IN,它這個matrix呢,-3√IN的意思就是把A的宅的功能的地方都-3啦,所以-3啦,所以這是-3,這是-3。1-3是什麼,是1-3-2,這邊呢,不是對角線的地方不變,這是-2,這個是-3,這是-3。
link |
那這個matrix它的normal space有多大呢?當然如果今天不是一個2乘以2的matrix,是更大的matrix,你就做reduce row hreform,看看它的column是dependent的還是independent的,或者是就check一下它的rank有多大,你就可以知道它的normal space有多大。
link |
那如果今天是一個2乘以2的矩陣,那就非常簡單,所以你就用眼睛看一下,它的normal space長什麼樣子呢?它的normal space就是落在這一條線上,落在-2,3這個matrix所指的方向的這一條線上。
link |
所以在這條線上所有的vector都是eigenvector,那這些eigenvector對應的eigenvalue就是3,所以3是matrix A的一個eigenvalue。
link |
那-2呢,你就做一下,你就計算一下,A加上兩倍安的normal space什麼呢?把A加上兩倍安算出來,對角線加2,所以是2、3、-3、-2,你可以做reduce row hreform找出它的normal space,但這邊也不用那麼麻煩。
link |
這個用直覺看就知道說它的normal space是什麼,用直覺看就知道說它的normal space是落在1,1的這個vector所指的這個方向上,所以1,1是2的一個eigenvector,-2,-2也是一個eigenvalue,它對應到的eigenvector都落在這一條線上面。
link |
這個是給你一個數值怎麼確定說它是不是eigenvalue,那接下來我們就要更進一步的問說,怎麼把所有,這邊還有一個例子,這個例子是說什麼呢?
link |
這個例子是這樣,這個例子是要check說3呢,假設給你一個數值3,它是不是B的eigenvalue,那如果它是B的eigenvalue的話,你能不能夠把它的eigenspace的basis把它找出來,然後怎麼做呢?
link |
首先check3是不是B的eigenvalue,那你就計算一下,你就做一下B減3倍的I3,那B減3倍的I3得到什麼樣的值呢?對角線的地方都減3,所以這個是0,這個是-2,這個是-2,然後這個是-2。
link |
接下來要做的事情就是檢查這一個matrix它的null space有多大,那你可以有n種不同的做法,舉例來說,這個matrix的column是dependent的還是independent的呢?
link |
你一看就知道,顯然是dependent的,對不對?這個不是B的,這個是B減掉3倍的I,因為這邊有zero vector嘛,所以它顯然是dependent的,那因為它是dependent的,所以它的null space不會只有zero vector,它有其他的東西,所以它是一個eigenvalue。
link |
或是你有其他n種判法,舉例來說,我們在chapter 3學過determinant,這個matrix的determinant的值是多少呢?如果你按照determinant的core factor expansion的式子的話,一算就知道是0,為什麼?
link |
只要有某一個row或某一個column為0,determinant算出來一定是0。determinant算出來是0是什麼意思呢?
link |
determinant算出來是0,代表這個matrix是non-invertible的,對不對?代表它是沒有辦法inverse的。non-invertible的matrix,它的null space會有包含zero vector以外的vector,所以我們知道說3它是一個eigenvalue。
link |
總之你有n種方法可以check說3是不是一個eigenvalue,反正你只要找出a減ln的null space,是長什麼樣就是了。
link |
這邊就實際的把它的null space找出來,這邊就是做一下reduce row hlf,把b減3倍ln的reduce row hlf算出來,長的是這個樣子。你把reduce row hlf算出來以後,你就可以找這個式子的parametric representation,它的solution的parametric representation。
link |
那這個formulation它的solution可以寫成x1乘以100加上x3乘以011,所以就知道說3這個eigenvalue,它的eigenspace有兩個basis,它的eigenspace的basis就是100跟011。
link |
你把100跟011做linear combination,可以得到所有的eigenvector,扣掉zero vector,就是zero vector不是一個eigenvector。
link |
好,講到這邊,大家有問題要問的嗎?好,沒有的話,我們就進入下一個階段,下一個階段就是剛才是給定了數字,要你找出,要請確定它是不是一個eigenvalue,那接下來就是給你一個matrix把所有的eigenvalue通通都找出來,那接下來問題就是怎麼把所有的eigenvalue通通都找出來呢?
link |
假設某一個scalar T它是matrix A的eigenvalue,那這個scalar T它應該要滿足什麼樣的條件呢?
link |
我們知道說,如果T是一個eigenvalue的話,那就存在某一個向量V,這個向量V不等於0,使得A乘上V等於7倍的V。那根據我們剛才講過的式子,把TV你可以挪到左邊,所以A乘上V減T乘上V等於0的vector。
link |
或者是,我們可以把這個V前面呢,乘上一個identity matrix,所以我們知道說,A減掉T的Ion乘上V,等於0的vector,而這個formulation應該要有一個non-zero的solution,如果這個formulation有一個non-zero的solution,代表T它是一個eigenvalue。
link |
所以我們知道說呢,A減TIon它要有non-zero的solution,但是因為這個式子它一定有zero的solution,所以意思就是說,A減TIon它要有多個solution,T才會是一個eigenvalue。
link |
那如果A減TIon它要是有multiple的solution,那代表什麼意思呢?那就代表很多的意思,舉例來說,代表A減TIon這個matrix,它的colon都是dependent的,如果A減TIon的matrix,它的colon都是dependent的,代表說這個A減TIon乘上V等於0這個homogeneous的equation,它有multiple的solution。
link |
那或者是代表A減TIon它是non-invertible的,A減TIon它的colon是dependent,代表A減TIon這個matrix,它是不能invertible的,它是non-invertible的。
link |
那一個non-invertible的matrix它有什麼樣的特色呢?一個non-invertible的matrix,它的determinant等於0,就這樣。所以其實你可以用一個matrix,一個A減TIon它的determinant是否等於0這件事情,來檢查T是不是一個eigenvalue。
link |
所以如果你給你一個matrix A,你想要把它所有的eigenvalue都找出來,你其實就是解下面這個equation,你把T當作是未知數,解下面這個equation,解出來所有可能的解,所有可能的T就是你的eigenvalue。
link |
那這邊就是舉一個例子,假設隨便給你一個matrix A,這個matrix A它等於-4,-3,36,隨便給你一個matrix A。
link |
那這一個matrix A,我們要找出它的eigenvalue怎麼辦呢?如果我們要找出這個matrix A的eigenvalue的話,那你就把這個matrix A減掉TIon的determinant等於0這個式子列出來,然後解出所有可能的solution T。
link |
解出所有可能的solution T,你就找出所有的eigenvalue了。
link |
所以我們就把A減TIon先寫出來,A減TIon就是把對角線的地方都減T,把原來A對角線的地方都減T,然後把determinant的式子列出來。
link |
determinant的式子如果是2乘2的話,even不用用perfect expansion,因為你是有倍公式的,你就把這個它乘它,減掉它乘它,所以你把-4減T乘上6減T,再減掉-3乘3,然後得出來,做一下整理,得到T加3,T減5,這個都是活中數學。
link |
這個式子要等於0,所以這個equation有兩個解,一個是-3,一個是5,所以我們知道說A這個matrix,它有兩個eigenvalue,一個是-3,一個是5,就這樣。
link |
那這邊呢,其實有一個神奇的事情,這個神奇的事情並不是巧合,我們來算一下A的determinant是多少好了。
link |
你能不能算出A的determinant是多少呢?-15,沒錯它是-15,你就是把-4乘上6減掉-3乘上3,所以得到-15。
link |
-15在什麼地方有出現過呢?你把-3乘上5,把兩個eigenvalue相乘,也是-15,這個並不是巧合。
link |
所以一個matrix,它所有eigenvalue相乘,會等於這個matrix的determinant。不是,我們在找eigenvalue的時候,我們是解算A-Tin的determinant,但是找出來的eigenvalue會是A的determinant,就是這麼神奇。
link |
但這個沒有很難證,這個之後我們有時間再證,好像課本沒有,課本可能是後面習題可能是有,內文是沒有提到這個東西,這個之後我們再證。
link |
那這邊還有另外一個發現,就是另外一個神秘的東西是這個樣子的,你可以計算A的trace,trace就是把對角線的直相加,就是trace。
link |
把對角線的直相加,在這邊對角線的直相加是多少呢?對角線的直相加等於2,那其實-3加5也等於2,所以一個matrix的trace會等於所有eigenvalue的合,這個之後再證明。
link |
那你可能會問說這個有什麼用呢?這個的用處是這樣,我覺得這個用處是幫你check你的答案算的對不對,就考試的時候如果出個題目叫你找eigenvalue,你找出來以後你不知道你算的對不對,你可以就用A的determinant跟A的trace去check一下說你算出來的結果對不對。
link |
所以今天你算出A的determinant,它應該要等於eigenvalue的相乘,你算出A的trace,它應該要等於eigenvalue的相加,如果你算出來不是這樣子的話,那代表你eigenvalue求錯了,或者是你trace或determinant算錯了。
link |
好,那我們在這邊休息一下,我們十分鐘後再回來。
link |
我們剛剛在前一堂課講到說給你一個matrix A,怎麼找它的eigenvalue呢?你就把A-Tin的determinant等於0,這個equation把它解出來,你就可以找出A所有的eigenvalue。
link |
那在我們給的這個第一個例子裡面,給你一個matrix A,這個matrix A它的eigenvalue是-3跟5,那你要知道你有沒有算的對,我們說有,你可以check一下A的determinant跟A的trace,你就可以看說你有沒有算的對。
link |
好,那你接下來呢,你可以為每一個eigenvalue都找出它的eigenspace,怎麼找出每一個eigenvalue的eigenspace呢?因為假設我們已經確定-3是一個eigenvalue,
link |
那它的eigenspace就是A減掉-3倍的I,也就是A加3倍的I乘上x等於0,這個equation的solution就是-3的eigenspace。
link |
同理,如果你要找出5這個eigenvalue的eigenspace,那你就把式子A減5倍的In乘上x等於0寫出來,它的solution就是5的eigenspace,就這樣。
link |
好,那這邊呢,就不實際算一下,這個實際算起來蠻麻煩的,你就自己算算看,看你算出來呢,對不對?
link |
好,那這邊呢,是另外一個例子,那假設現在給你一個linear的operator,給你一個linear operator長這個樣子,那要叫你找出這個linear operator的eigenvalue,那怎麼辦呢?
link |
首先你要把這個linear operator背後對應的matrix先找出來,它背後對應的matrix是A,長的是這個樣子,是一個3乘以3的matrix。
link |
接下來呢,你就把式子A減Tin的determinant等於0這個formulation,把它寫下來。
link |
好,那A減Tin的式子長什麼樣子呢?就是把原來A這個式子,它對角線的地方都減T,都減T,都減T,好吧,對角線的地方都減T,然後取它的determinant。
link |
那它的determinant長什麼樣子呢?它的determinant其實就是把對角線這三個-1減T相乘,就是它的determinant。
link |
怎麼知道呢?你就,你有很多做法啦,你可以帶一下convector expansion的公式,你也可以算一下你高中時候背過的3乘以3的matrix,它的determinant的公式。
link |
我記得3乘以3的matrix,determinant的公式就是把這三個乘起來,然後再把這三個乘起來,不過有0,所以就不要管它,把這三個乘起來,也有0,不要管它,然後減掉這三個乘起來,有0,不要管它,減掉這三個乘起來,有0,不要管它,減掉這三個乘起來,有0,不要管它。
link |
所以你得到的結果就是-1減掉T的3次方。
link |
好,那你的solution是什麼呢?Solution就是T等於-1,就是你的solution。
link |
所以今天這一個linear的operator,它只有一個eigenvalue,而這個eigenvalue的值就是-1。
link |
好,那最後呢,我們剛才有講過說rotation這個東西,rotation這個linear的operator,它是沒有eigenvalue的。
link |
那我們之前是用想的在直覺上知道說rotation是沒有eigenvalue的,那如果實際上你要檢查,用剛才那個determinant等於0的方法去檢查rotation有沒有eigenvalue的話,怎麼做呢?
link |
首先我們要把rotation這個linear operator,它背後所對應的matrix把它列出來。
link |
rotation轉90度,假如我想說我們考慮轉90度,轉90度這個operator,它背後對應的matrix長什麼樣子呢?
link |
你可以想想看,如果你現在有一個vector擺在這邊,它是XY,如果XXY,XY轉90度以後,它的座標會變成怎樣呢?
link |
你要把X跟Y對調,所以先寫Y再寫X。
link |
然後接下來其中一個要乘上負號,誰要乘上負號呢?感覺應該是前面這個要乘上負號。
link |
這個是順時鐘轉90度,XY就變成負YX,所以XY變成負YX這件事,它的rotation這個matrix你可以寫成0-1-1-0,因為把XY乘上0-1-1-0,會等於什麼呢?
link |
XY乘上0-1-1-0,就得到負YX,就是這樣子。接下來我們就是要求這個rotation matrix 0-1-1-0,它的determinant。
link |
怎麼求它的determinant呢?你就把這個matrix減掉TI2,然後求它的determinant。
link |
我們就把這個對角線的地方減T,然後求它的determinant。determinant的式子就是把負T乘上負T,減掉負1乘上1。
link |
負T乘上負T等於T平方,減掉負1乘上1,就是加上1。
link |
接下來呢,解這個equation。反正這個equation它沒有時數解,對不對?這個equation,這個determinant等於0,這個東西它沒有時數解。
link |
所以我們就可以說它是沒有eigenvalue,或者是說它沒有時數的eigenvalue。
link |
其實是可以有虛數的eigenvalue,所以這個地方,你問這個matrix有沒有eigenvalue,是比較ambiguous的。
link |
因為這個equation解出來,你其實有那個虛數的解。所以其實這個matrix,就rotation這個東西,它有虛數的eigenvalue。
link |
那在我們這一堂課裡面呢,我們只討論時數的eigenvalue就是了,虛數的eigenvalue是在有那個新興的章節裡面,所以不算在這一門課的範圍之內。
link |
那考試的時候,應該都會強調說,我們要,就比如說給你一個matrix,叫你找eigenvalue,前面應該都會強調說要找的是real的eigenvalue,而不要你找虛數的eigenvalue,不要你找負數的eigenvalue。
link |
所以這個equation,它沒有時數解,它沒有時數解只有負數解,它沒有時數解,所以我們說它沒有eigenvalue,所以它沒有eigenvector。
link |
好,那我們剛才就講過說,我們可以用A-TIN的determinant來確定說A有哪些eigenvalue。所以A-TIN的determinant這個多項式,這個polynomial,我們就叫它characteristic polynomial,而且它代表了A的某種特徵,所以我們叫它A的characteristic polynomial。
link |
那A-TIN等於0這件事情,我們說它是A的characteristic equation,就上面這個,它沒有等號,所以它是個多項式,它是polynomial,有等號的話是equation。
link |
所以這個是characteristic polynomial,這個是characteristic equation。那要找出eigenvalue,你就是找characteristic polynomial的根,找它的根,找它的root,找它的根,或者是找characteristic equation的solution,這是同樣的事情,就可以知道說一個matrix它有沒有eigenvalue,它有哪些eigenvalue。
link |
或者是,假設你今天要人家問你的不是一個matrix,而是問你一個linear operator,那你一樣可以說,假設A是linear operator T的standard matrix,它背後對應的那個matrix,那determinant A-TIN就是linear operator的characteristic polynomial,determinant A-TIN等於0就是linear operator的characteristic equation。
link |
好,那接下來就是稍微講一些characteristic polynomial的特性。首先第一個就是,在討論eigenvalue,進入討論eigenvalue的章節以後,reduce row echelon form就作用不大,我們在前面的章節一到四章的時候,這個reduce row echelon form作用很大,但是講到eigenvalue的時候reduce row echelon form作用不大。
link |
因為一個matrix跟它的reduce row echelon form,它們並沒有同樣的characteristic polynomial,它們的characteristic polynomial是不一樣的。
link |
那這個你要證明太簡單了,怎麼證明呢?你就胡亂舉個反例就結束了,就這樣子。那怎麼胡亂舉個反例呢?舉例來說,我們想一個例子是這樣子的,我們有一個linear operator,它是對x軸做reflection,假設有一個operator是對x軸做reflection,
link |
你可以想得出它有哪些eigenvalue嗎?就是1跟-1,對不對?因為要嘛就是你的vector落在x軸上,做完reflection以後還是它自己,要嘛就是它跟x軸是垂直的,做完reflection以後它就變得相反,所以eigenvalue是-1。
link |
所以這一個對x軸做reflection的matrix,它有1跟-1,兩個eigenvalue。這個可以對x軸做reflection的matrix,它的standard matrix,你寫得出來嗎?它對應的matrix,你寫得出來嗎?應該…
link |
非常容易,對不對?就如果輸入是xy,那輸出是什麼呢?輸出就是把y乘上一個負號變成x-y,那它對應的matrix應該長什麼樣子呢?對應的matrix應該就是這個1,0,0,-1,對不對?
link |
好,但是這一個matrix,1,0,0,-1,會變成什麼樣子呢?會變成identity matrix,也就是1,0,0,1,為什麼它會變identity matrix呢?最簡單的方法就是你實際拿這個東西算一下,它就變identity matrix,要不然你也可以想說reflection這個東西它是invertible。
link |
一個invertible的operator,它對應的matrix,做完reduce row hreform以後會變成identity matrix。總之,它的reduce row hreform是identity matrix,它有1跟-1,兩個eigenvalue。但是identity matrix有哪些eigenvalue呢?就只有1這個eigenvalue而已,對不對?identity matrix什麼東西,identity matrix都是它自己,所以它只有1這個eigenvalue。
link |
所以你就可以輕易的知道說,這一個matrix跟它的reduce row hreform,它們的eigenvalue是不一樣的。它的eigenvalue是不一樣的,顯然它們的characteristic polynomial是不一樣的。
link |
所以我們這邊就是舉了一個反例告訴你說,某一個matrix A跟它的reduce row hreform,它們沒有一樣的characteristic polynomial,所以討論eigenvalue的時候reduce row hreform就沒有什麼特別的用場。
link |
那什麼東西,什麼樣的matrix會有同樣的characteristic polynomial呢?神奇的是,假如兩個matrix它們是similar的,那麼它們會有同樣的characteristic polynomial。
link |
有同樣的characteristic polynomial意味著什麼?意味著有同樣的eigenvalue,不是同樣的eigenvector,而是同樣的eigenvalue。
link |
所以兩個matrix如果它們是similar的,它們就有同樣的eigenvalue。什麼叫做similar的matrix,我看大家有點困惑,應該已經想不起來什麼是similar的matrix了,對吧?
link |
什麼是similar的matrix呢?就是說,如果今天有兩個matrix,有兩個matrix A跟B,那其中你可以把A這個matrix左邊乘上一個matrix,比如說P inverse,
link |
右邊乘上另外一個matrixP,就左右兩邊乘的matrix互為inverse,得到另外一個新的matrix,那這兩個matrix它們就是similar的,它們就是互為相似的。
link |
或者你也可以一樣寫成說,A等於P倍的B乘上P inverse,那A跟B是互為similar的。
link |
就是某一個matrix左邊乘上一個matrix,右邊乘上一個inverse,得到新的matrix,它們互為相似的。那這個A跟B它們就會有同樣的characteristic polynomial,也就是它們會有同樣的eigenvalue。
link |
好,那我們先來看一下這個證明,這個證明是這樣子的,你要證說A跟B它們的characteristic polynomial是一樣的,很簡單,你就把它們兩個characteristic polynomial列出來,然後說它們是一樣的,就結束了。
link |
好,所以現在呢,我們就把B的characteristic polynomial,B-Ti的determinant,跟A的characteristic polynomial,也就是A-Ti的determinant都列出來,接下來我們就是要說,這個式子跟這個式子它們是一模一樣的。
link |
怎麼說它們是一模一樣的呢?我們就把A跟B之間的關係給它代進去,B等於P-inverse乘A乘P。好,所以B等於P-inverse乘A乘P。好,接下來呢,T乘上identity matrix等於P-inverse乘上T乘上identity matrix再乘上P。
link |
這個大家有問題嗎?這個OK嗎?就是T乘上identity matrix顯然等於P-inverse乘上T乘上identity matrix再乘上P,這個就是很直覺的,因為I乘上P等於P嘛,然後T可以拿出來嘛,所以P-inverse乘上P等於identity matrix,還是原來的。
link |
這邊大家有問題嗎?好,沒有吼,好,然後接下來呢,因為你發現左邊都乘了P-inverse,左邊都乘了P-inverse,右邊都乘了P,右邊都乘了P,所以你顯然是可以把P-inverse提出來跟P提出來,所以式子變成這樣。
link |
所以determinant B乘-Tin等於determinant P-inverse乘上A-Tin乘上,這寫錯啦,我忘了改,好,這個A是不存在的,我們把它塗掉,再把P-inverse挪到左邊,P挪到右邊,括號裡面剩下A-Tin。
link |
所以B-Tin的determinant等於P-inverse乘上A-Tin再乘上P的determinant。那按照determinant的性質,determinant matrix相乘等於先取determinant再相乘。
link |
這個大家記得吧,這個是determinant的一個性質,所以determinant P-inverse乘A-Tin乘上P等於determinant P-inverse再乘上determinant A-Tin再乘上determinant P。
link |
而determinant P-inverse跟determinant P是可以消掉的,為什麼?因為determinant P-inverse等於1除以determinant P,所以這兩項可以消掉,只剩下determinant A-Tin。
link |
所以我們知道說兩個matrix如果它們similar的話,它們是有同樣的eigenvalue的。
link |
那這件事情有什麼樣的意義呢?它的物理意義是什麼呢?你可以想想看,兩個matrixsimilar是什麼意思?
link |
我們什麼時候講過similar?我們不是在講在coordinate system的時候講過similar嗎?所謂similar的意思是說,兩個matrix它們其實是同一個東西,只是在不同的coordinate system下面看待的結果。
link |
就舉例來說,假設這個是A,就你在某一個坐標系統上,你在直角坐標系上,你看到了一個operator叫做A,那你可以把A換到另外一個坐標系上,你透過P-inverse就把它換到另外一個坐標系上。
link |
然後在這另外一個坐標系上,有另外一個matrix叫做B會進行轉換,然後再把轉換的結果丟回原來的coordinate system,然後乘上P。
link |
所以A跟B之間的關係,它們就是同一個function在不同的coordinate system下面看待的結果。
link |
所以兩個similar function代表說它們是同一個,兩個similar matrix代表說它們是同一個operator,在不同的coordinate system下面看待的結果。
link |
所以這個時候它們會有同樣的eigenvalue這件事情並沒有讓你覺得特別意外,對不對?
link |
因為我們講說reflection這個operator,它就是有兩個eigenvalue,1跟-1,對不對?就你對某一個直線做reflection,如果你隨便拿一條直線,你對這條直線做reflection,如果你的vector落在這條直線上,eigenvalue就是1,如果你的vector落在這個直線垂直的話,那你的eigenvalue就是-1。
link |
所以reflection這個operator,它的eigenvalue就是1跟-1。
link |
那不管你從哪一個坐標系統來看,它都是1跟-1。
link |
你如果今天是從,你把這個東西把它轉正,或者是你歪著頭看這個reflection的話,它的eigenvalue仍然是1跟-1,只是它的eigenvector會變。
link |
所以一個linear operator做完這個coordination轉換以後,它的eigenvalue是不變的這件事情,其實是非常直覺的,但它的eigenvector是會變的。
link |
這樣大家可以了解我的意思嗎?針對這個部分大家有問題要問嗎?
link |
所以兩個similar matrix,它的eigenvalue是一樣的,其實是很直覺的一件事。
link |
好,那接下來就是一些characteristic polynomial這個多項式的特性。
link |
第一個特性是,這個characteristic polynomial它的order,大家知道多項式的order的意思嗎?
link |
應該知道吧,這個高中有學過,對不對?
link |
這個多項式,這個characteristic polynomial這個多項式,它的order是n。
link |
那假設你的matrix是一個nxn的matrix的話,假設我們現在要考慮nxn的matrix的eigenvalue,
link |
那nxn的matrix,它的characteristic polynomial,它的order,它的degree就是n。
link |
為什麼?你就想一下determinant A-Tin這個式子裡面,最高次的項,就是雖然我們不知道A-Tin長什麼樣子,
link |
但是A-Tin裡面,最高次的項,那個t,那你的未知數會被乘n變,所以polynomial的degree是n。
link |
我不知道這樣大家能不能夠接受,或者是,你可以想想看,我們現在把A這個matrix畫出來。
link |
然後呢,我們假設它這個3乘以3的matrix,讓你比較好想,但是別的也是一樣的。
link |
那它的實際上的值是什麼不重要,我們就隨便畫個黑色圈圈來表示。
link |
然後我們會在對角線的地方減t,t是我們現在這個polynomial裡面的變數,它是我們的equation的未知數,減t。
link |
那如果你今天要算這一個matrix的determinant,如果是3乘以3的matrix,那你就套一下公式,就可以解出來了。
link |
那它總共會有六項,對不對?按照3乘以3的determinant matrix的公式,它總共有六項。
link |
在這六項裡面,只有這一項,裡面那個t會出現三次,t會出現三次。
link |
那你把這三項連乘起來,會出現一個t三方,前面的係數不見得是1,前面的係數我們先不考慮。
link |
但是一定會出現,你把它做determinant以後,一定會出現什麼東西乘上t三方,對不對?
link |
一定會出現什麼東西乘上t三方,後面加什麼我們也不管,後面加什麼我們也不管,我們也不管。
link |
但我們知道說,這個determinant所列出來的這個characteristic polynomial,它如果是一個3乘以3的矩陣,那它的order就是3。
link |
那如果是一個n乘以n的矩陣,它的order就是n。
link |
這個大家有問題嗎?OK嗎?好,所以,那接下來要問的問題就是,對一個n乘以n的矩陣,它會有多少的eigenvalue呢?
link |
那我們知道說,eigenvalue其實就是characteristic polynomial的根,就是它的根,那一個order是n的characteristic polynomial,它的根最多有幾根呢?
link |
那這個是高中時候學過的對不對?它的根一定是最多n的。
link |
也就是說,一個n乘以n的matrix,它的eigenvalue的數目一定是小於等於n。
link |
一個n乘以n的matrix,它的eigenvalue最多是n,然後它有可能比n還要小。
link |
為什麼有可能比n還要小呢?因為你在算那個根的時候,它可能會有重根,如果是重根的話,你的eigenvalue的數目就比較少了嘛。
link |
像我剛才舉例子的時候,也有看到那個重根的case。
link |
或者是,你有可能有複數的根,你有可能有複數的解,你可能有虛根,虛根就是容數的虛根這樣。
link |
這個真的很無聊,你有可能有虛根。所以今天你的時數的root,時數的根,它的數目一定是小於等於n的。
link |
所以,一個n階的order是n的characteristic polynomial,它的不同的根的數目最多是n個,那有可能是比n還要小的,所以它小於等於n的。
link |
所以我們知道說,一個n乘以n的矩陣,它的eigenvalue的數目是小於等於n的。
link |
那你其實可以把這個characteristic polynomial做factorization,好像是翻譯成因式分解,做因式分解。
link |
那分解出來,你可以假設它的十根就是ln1,ln2到lnk,然後後面這個括號點點點代表說你有可能會有複數的根,你可能會有虛根。
link |
那如果你有ln1,ln2到lnk這個eigenvalue的話,那你的這個characteristic polynomial,你把它做因式分解以後,
link |
你就可以寫出t-ln1的n1次方,t-ln2的n2次方,一直乘到t-lnk的nk次方。
link |
這些n,這些指數項叫做multiplicity,這個我等一下應該是有列出來的。
link |
那這個n它不見得等於1,它可以是任何的正整數,因為有可能會有重根的情形,
link |
所以這些n1到nk它不見得等於1,它可能是大於1的,因為你可能會有重根。
link |
那今天每一個式子就對應到一個eigenvalue,所以你現在有eigenvalue ln1到lnk,
link |
那每一個eigenvalue都對應到一個eigenspace,每一個subspace我們可以算它的dimension,
link |
所以我們也可以算eigenspace的dimension。
link |
那這個之後再講,就是eigenspace的dimension它的神奇的地方,就是它一定會小於它的multiplicity。
link |
就是假設ln1對應的這個式子它的multiplicity是m1,那它對應的這個eigenspace的dimension就會小於等於m1,就是這麼神奇。
link |
現在新版的課本是沒有證明的,舊版的課本就是第一版的課本,其實是有證這個東西的,我們之後有空再講。
link |
現在新版的課本就是只有放一個reference,它就沒有證這個東西給你看,就告訴你說,反正這件事情就是這樣。舊版的課本是有證明的。
link |
想到舊版課本就讓我想到一件事,就是我為什麼會教線性代數。
link |
我剛來臺大的時候,每個人就分配到一個辦公室,那辦公室之前一定是有其他人用的,但也不知道是誰用的。然後我就打開辦公室的書桌抽屜,裡面就留了一本線性代數,然後我翻開裡面居然還有很多的筆記,不知道是誰留下來的。
link |
這個就跟那個《混血王子的背叛》裡面那個魔藥學的課本是一樣的,裡面有很多的筆記。然後他有特別把這個證明框起來,然後旁邊下一個註解寫說非常神妙,然後就結束了。
link |
我有仔細研究一下那個筆記,但我沒有研究出什麼特別厲害的東西,所以我覺得說我可以教一下線性代數。
link |
這邊還有一些其他的特性,這個是比較trivial的。假設有一個matrix,它是一個upper triangular的matrix,所謂upper triangular的matrix就是說它的對角線以下的部分都是0。
link |
那這一種matrix,你要算它的eigenvalue就非常的容易,為什麼?因為這種matrix它的determinant非常容易計算。
link |
這種matrix的determinant長什麼樣子呢?這種matrix的determinant就是,假設我們以這個matrix為例,它的characteristic polynomial就是把對角線的地方都乘t,然後再取determinant。
link |
那這個upper triangular的matrix,它的determinant長什麼樣子呢?就是直接把對角線相乘。
link |
為什麼是這樣?這個我們之前在講determinant的時候講過了,一個upper triangular的matrix或一個lower triangular的matrix,它的determinant就是對角線相乘。
link |
所以我們現在把對角線相乘,把a乘-t乘上b-t乘上c-t,那這一個polynomial,這個多項式,它的根是什麼呢?就是abc,然後就結束了。
link |
所以你今天看到一個upper triangular的matrix或一個lower triangular的matrix,如果你要找它的eigenvalue,就不要懷疑它的對角線上的值就是它的eigenvalue,結束。
link |
所以upper triangular的matrix或lower triangular的matrix,你要找它的eigenvalue是非常容易的。