back to index

Linear Algebra Lecture 9: Solving System of Linear Equations (part 2)


link |
00:00.000
好,各位同學大家早,我們來上課吧。
link |
00:06.000
好,那我們上次講說,要怎麼solve system of linear equation。
link |
00:13.760
那我們說這個做法呢,就是把你手上的augmented matrix整理成reduced row echelon form。
link |
00:22.640
然後整理成reduced row echelon form以後呢,你就可以輕易地看出說,它的這個system of linear equation,它的solution是什麼。
link |
00:32.880
好,那上次只講說,假設已經整理出reduced row echelon form,怎麼看出說它的solution是長什麼樣子。
link |
00:41.840
那接下來要講的是說,怎麼把一個matrix整理成它的reduced row echelon form。
link |
00:49.280
那這邊要做的是高斯消去法,那課本上就會告訴你說,高斯消去法裡面有幾個步驟,比如說,我如果沒有記錯的話,課本是列了步驟一到步驟七,那這個呢,你就自己看,然後我們是不講的。
link |
01:08.560
因為講這個呢,其實沒有什麼太大的意義,為什麼呢?因為現在你都是用程式算的啦,所以練習手算這個實在是沒什麼太大的意義。
link |
01:21.200
不過呢,我們還是很快地秒告訴大家說,這個高斯消去法操作起來像是什麼樣子。
link |
01:30.800
但是我們只給一個操作的範例,而不告訴你說它實際上的步驟是什麼樣。
link |
01:38.800
反正你要記得你的大原則就是,事實上你完全沒有必要按照課本告訴你的步驟來進行operation,總之你只要記得說,你叫做elementary的row operation,就是我們講的三個不會改變system of linear equation的solution的三個operation。
link |
01:56.240
反正你就是做那三個operation,不管你用什麼順序,只要你搞得出一個reducible echelon form就結束了,順序什麼不重要,不一定要按照課本的順序,你只要覺得爽就可以了。
link |
02:07.680
所以我們現在呢,就來做一下操作。
link |
02:11.920
這個操作是這個樣子的,這邊有一個system of linear equation,那你拿到一個system of linear equation,如果你要解它的話呢,第一件事情就是把它的A跟B都列出來,
link |
02:30.800
然後呢,把這個augmented matrix列出來,那在這個augmented matrix裡面呢,去掉最後一個column,剩餘的部分是matrix A,最後一個column呢,是你的vector B。
link |
02:43.920
那接下來呢,你就做一下高斯消去法,那通常你常用的步驟就是,固定住,首先固定住第一個row,然後呢,用第一個row去扣掉下面的row,讓它們在第一個column的地方,它的直是0。
link |
03:06.000
所以你就把第一個row乘上1加給第二個row,我就畫在這個投影片上了,第一個row乘上1加給第二個row,然後第一個row乘上-2加給第二個row,第一個row乘上3加給第三個row。
link |
03:21.840
做完這個操作以後呢,你得到的結果就是這個樣子,做完這個操作以後呢,正好在這個1以下的直都會變成0。
link |
03:34.240
然後這邊巧合的是呢,在第二個column,這2以下的直也通通變成0。
link |
03:44.960
好,那接下來呢,你會做一個操作,這個操作是什麼呢?這個操作是row的exchange,我們把第二個row跟第三個row做一下交換。
link |
03:56.480
那做完交換以後呢,我們把這一個row乘上-1加給最後一個row,那這個地方乘上-1加給最後一個row以後呢,這個地方就會變成0。
link |
04:15.680
然後就把它消掉,得到的結果呢,變成這個樣子。好,接下來你會做什麼呢?接下來你把這一個row乘上-2加給最後一個row,第三個row乘上-2加給第四個row,那你就把它消掉,變成0。
link |
04:36.480
其實做完以後呢,正巧的是呢,其餘的部分也會變成0,最後一個row,其餘的部分也都變成0,也都變成0,那你得到一個這樣的matrix。
link |
04:49.280
然後最後呢,你把leading entry通通都整理成1,把leading entry都整理成1,如果這個地方的話,你就除4,把它變成1,把它變成1,把它變成2,這個地方呢,就把它乘-1,就把負號都拿掉了。
link |
05:14.720
好,那這邊這個步驟呢,感覺跳得有點快,我們把這個leading entry呢,通通整理成1以後,接下來啊,你把這一個column乘以負2加給上面的column,哎呀,這個真的是很難寫,你把這個column乘以負2加給上面這個column。
link |
05:45.120
加給上面這個row,你把第三個row乘上負2以後,加給第二個row,這邊就變成0,其他地方呢,你就自己算,然後把1呢,乘上負2以後,加上去,這個地方呢,就變成0。
link |
06:02.400
好,那得到的結果呢,就是下面這個metric,就是下面這個metric。好,那總之呢,整理完,經過一番整理以後呢,你就得到了reduce row href,那也許在看一下這個system of linear equation的solution之前呢,我們來檢查一下我們得到的結果是不是reduce row href。
link |
06:28.960
那剛才那個operation啦,就operation的順序其實沒有那麼重要,你爽就好這樣子,你只要把它弄成reduce row href,不管你怎麼做操作,不管你怎麼用什麼樣的順序進行操作,其實都是可以的。
link |
06:43.160
那課本呢,就是列了七個步驟啦,我也懶得把它編成歌給你記就是了。
link |
06:49.320
好,那麼來檢查一下它是不是reduce row href,我們說reduce row href有三個條件,第一個就是non-zero的row都在最底下,那確實non-zero的row都在最底下,第二個你檢查這個leading entry,它是不是擺成一個階梯的樣子,把所有leading entry都圈起來,確實是擺成階梯的樣子。
link |
07:12.880
接下來你第三個你要檢查的是說是不是每一個leading entry所在的column它都是standard vector,那就把它檢查一下,檢查一下,檢查一下。
link |
07:23.640
好,是standard vector,它果然是一個reduce row href,那接下來你就可以對這個system of linear equation求解了,那這個步驟非常的快,你就把這個matrix轉回system of linear equation。
link |
07:38.160
好,轉回去以後我們得到說第一個row告訴我們的是1倍的x1加2倍的x2減掉1倍的x5等於負5,把這個式子寫下來,第二個row告訴我們的是1倍的x3等於負3,我們把它寫下來,第三個row告訴我們的是說1倍的x4加1倍的x5等於2,我們把它寫下來。
link |
08:01.120
好,那寫成這個system of linear equation以後,接下來你就可以把你的解寫出來了,怎麼做呢?你把leading entry所對應到的variable放在左邊,其餘的趕到右邊去。
link |
08:16.160
舉例來說,第三個式子,你就把x4放到左邊,x5把它趕到右邊去,那第二個式子除了leading entry以外沒有其他的variable,你就直接寫x3等於負3。
link |
08:32.960
好,那第一個呢,你把x1留著,把其餘的趕到右邊去,把x2趕到,趕太遠,趕到右邊去,把x5趕到右邊去,那你就得到x1等於負5減2倍的x2加x5,然後剩下沒有定義的variable,它就是free variable。
link |
08:58.320
這邊x2是free variable,它沒有equation,x5是free variable,它沒有equation。
link |
09:06.000
好,那所以你接下來就可以把這個solution用parametric的表示式把它寫出來,就可以寫成說x1到x5分別就等於負乘以負2倍的x2加上x5,把它寫下來。
link |
09:31.120
然後如果是free variable的話,就自己等於自己,x2就等於x2,那x3等於負3,然後x4等於2倍,22減x5,2減x5,那x5等於它自己。
link |
09:45.520
好,那接下來你再把同樣的variable把它提出來,這邊同樣的free variable有什麼呢?有x2,x2出現在這個地方,有x5,x5出現在這個地方。
link |
10:05.680
好,那你就把x2提出來,然後後面乘上負2,1,0,0,0,因為在第一個row,x2乘上負2,在第二個row乘上1,然後剩下三個都是0,那你就寫成負2,1,0,0,0。
link |
10:22.560
那x5在第一個row乘上1,第二個row乘上0,第三個乘上0,第四個乘上負1,第五個乘上1,所以是1,0,0,負1,1。好,那再把剩下的這些常數,負3,2,負5,3,2,把它寫出來。
link |
10:42.160
好,那你就把這個system of linear equation的solution寫出來了。好,那有同學可能會問說,為什麼我們是把放在最左邊的,我們為什麼是把leading entry的variable當作是放在最左邊呢?
link |
11:03.600
其實你不一定要這麼做,你永遠可以有其他的做法,那剛才的講法只是一個操作的方法,你可以照著這個步驟操作,然後得到你的solution。
link |
11:16.360
事實上你也可以用別的操作,舉例來說,左邊這個式子,第一個這個第一個row所代表的這個式子,x1加兩倍的x2減x5等於負5,我們本來說我們可以把它寫成x1等於負5減兩倍的x2加x5,那你可不可以寫成別的樣子呢?
link |
11:35.160
你完全可以把它寫成別的樣子,你可以說,我想要放在左邊的其實是x2而不是x1,所以你完全可以把x2留在左邊,把x1跟x5趕到右邊去。
link |
11:49.160
如果你現在把x1跟x5趕到右邊去,你得到的結果是怎麼樣呢?你就得到另外一個式子,這個式子就寫成x2等於負5減1x1加1x5,那你接下來呢,現在x2就不是free variable了,x2它是有定義的,它的式子長成這個樣子。
link |
12:14.360
誰變成free variable呢?x1變成free variable,現在x1變成它是沒有equation的,所以x1變成free variable,那有了這些東西以後,你就可以列出另外一個solution的式子,它長什麼樣子?它長這樣。
link |
12:31.160
所以本來在上一頁投影片裡面,我們的free variable是x2跟x5,我們得到一個solution,現在我們的free variable變成x1跟x5,我們得到另外一個solution的表示式。
link |
12:48.600
但是你可以很直覺的知道說,其實這兩個不同的表示的方式,它們是殊途同歸,它們代表的解其實是一樣的。
link |
13:01.720
我們剛才看到有兩個表示的方式,上面這個是我們剛才得到的,如果你把x2當作free variable的時候得到的solution,下面這個是把x1當作free variable的時候得到的solution,但它們其實是殊途同歸,它們指的其實是同樣的一個solution的set。
link |
13:22.360
所以其實在上面這個set裡面有的solution,在下面這個set其實也是有的。舉例來說,在上面這個set,我們把x2代1,x5代-1,然後做一下計算以後,我們得到一個solution是-8,1,-3,3,-1。
link |
13:45.400
那在下面這個equation,你一定可以找到一個x1跟x5表示出一樣的solution。舉例來說,我們就設x1等於-8,x5等於-1,那你會得到一模一樣的solution。
link |
14:02.120
總之,這邊應用之道存乎一心,你只要能夠解得出來,怎麼樣都可以,你不見得要按照課本教你的方法來進行操作。
link |
14:15.960
那這邊就是舉另外一個reduce row h2 home的例子,這邊有一個很複雜的matrix,然後現在叫你找reduce row h2 home,如果你按照課本的操作,你就會算到死這樣子。
link |
14:32.920
所以我說應用之道存乎一心,不管你用什麼方法,只要能夠把一個matrix整理成reduce row h2 home都好。所以今天這個你可以做一個觀察,什麼樣的觀察呢?
link |
14:45.960
你會發現說,今天這個matrix看起來表面上很複雜,它總共有八個row,但是實際上呢,它們這個row和row之間是有關係的,什麼樣的關係呢?
link |
14:59.160
你會發現說,假設我另一個matrix叫做R,那我們現在要求reduce row h2 home的這個matrix,它上半部是R,下半部是2R,就這樣,上半部這個地方是R,下半部這個地方是2R,所以我們完全可以把這個matrix就寫成下面這個樣子,上半部是R,下半部是2R。
link |
15:28.600
接下來,你就可以在這個看起來很簡化很多的matrix上面,進行reduce row h2 home的操作,也就是說,我們現在在做操作的時候,一次拿一整個R去做操作,而不是一個一個row去操作。
link |
15:45.240
一個R有四個row,我們一次操作四個row,而不是一個一個row去操作,我們就把上面這個R乘上負2變成跟下面的這個2R進行相加,把上面這個R乘上負2跟下面這個2R進行相加,你就得到上面是R,下面是zero matrix,然後就沒有然後了,就結束了這樣子。
link |
16:13.480
它就是一個reduce row h2 home,那它符合我們說的reduce row h2 home的三個特性,哪三個特性我們剛才就講過說,zero row都在下面,leading entry擺成接近的樣子,leading entry都在standard vector裡面,它都符合,所以它是一個reduce row h2 home。
link |
16:35.160
它不是按照標準的操作得到的,但反正只要看雖然它是reduce row h2 home,怎麼樣都好。所以我今天如果再給你一個非常非常複雜的matrix,這個matrix它是由,它其實這邊的R是一個440的matrix,那我們現在要做reduce row h2 home的matrix,它是由R2RR-R所組成的。
link |
17:03.880
所以這個matrix它是8x8的matrix,那如果我直接把它8x8寫出來,然後叫你算reduce row h2 home,你就會算到手斷掉這樣子,但是現在因為你已經知道說,這一個matrix它是由R2RR-R這樣子的pattern所組成的,
link |
17:28.040
所以你就可以在這個R上面去操作,去做reduce row h2 home,而不是每一個row,row by row的去做reduce row h2 home。
link |
17:36.040
那你接下來就做說,現在這個matrix是R2RR-R,那我們把上面的第一個row乘上-1加給下面這個row,這樣我們就可以把這個R,看能不能把它消掉,我們就可以把下面這個R消掉,所以把上面這個row乘上-1,然後再把它加下來,你就可以把左下角這個R把它消掉,R乘上-1加下來,所以左下角R就消掉了。
link |
18:05.560
那這個R乘上-1再加下來,你就得到-3R,接下來你再做一下操作,我猜下一個會做的操作應該是把-3拿掉是嗎?
link |
18:17.560
喔不是,是先加上去,沒關係,反正這個操作順序怎樣都不重要啦,我們先把下面這個row乘上-2,再加上去,乘上-2再加上去,那左半部第一個color的地方就不用管了,zero matrix乘上-2加上去,什麼時候都不會發生,-3R乘上-2再加上去,你就可以把2R消掉,所以結果變成這樣。
link |
18:47.480
它變成R zero matrix zero matrix-3R,接下來總該把-3拿掉了吧,好,把-3拿掉,把整個這一排的東西通通都乘上-1三分之一,就可以把-3拿掉,得到了R zero matrix zero matrix R,所以我們得到的reduced row hreform就長這個樣子。
link |
19:13.480
然後你就把R在這邊,R在這邊,就把它帶進去,所以這個是R,這個是R,這個是R,這個是zero matrix,這個是zero matrix,所以你就把一個8x8的matrix整理成reduced row hreform。
link |
19:42.360
講到這邊,大家有問題嗎?沒有嗎?你不覺得這個結果哪裡怪怪的嗎?
link |
19:48.600
如果今天考試的時候叫你算reduced row hreform,你算完的時候,最好再檢查一下它到底是不是一個reduced row hreform,你就要用你對reduced row hreform知道的三個標準來檢查它是不是一個reduced row hreform。
link |
20:09.640
所以我們現在來檢查一下吧,你先看一下zero row,今天這個matrix算完以後有沒有zero row呢?有啊,這裡有一個zero row,哎呀,怎麼框的這麼糟,這邊有一個zero row,這個zero row沒有被放在最底下啊,所以它不是一個reduced row hreform這樣子。
link |
20:35.800
所以說,如果你把這一整個matrix把它用一個大R來表示它,然後你把大R如果當作一個數字,不把它當作一個matrix來看,這個東西是一個reduced row hreform。
link |
20:52.760
但把R放回去,實際上R長這個樣子,一個4x4的matrix,放回去以後,實際上它不是一個reduced row hreform,所以這個應用之道存乎一心這樣子,這個做完它不是一個reduced row hreform。
link |
21:07.280
那你也不用太慌張,你就再看一下,我們把這個zero row把它拿下去,我們可以做column的exchange嘛,對不對?我們可以做column的exchange,不會影響solution,所以我們今天可以做column的exchange,把這個row挪到最下面,把在它下面的三個row都挪上來。
link |
21:32.560
那它是不是reduced row hreform呢?這個時候你發現說,它就是reduced row hreform了。
link |
21:43.320
好,所以講這些例子,只要告訴大家說,怎麼把它整理成reduced row hreform,是應用之道存乎一心,你只要確定說最後做出來的是reduced row hreform,就可以了,就結束了。
link |
21:55.640
好,那有了這些以後,你就可以做什麼事情呢?舉例來說,你現在可以檢查說,給你一個vector set,它是dependent的還是independent的,之前我們都只有做了一些定義。
link |
22:13.240
我們定義說,告訴你說,給你一個vector set,怎樣叫做dependent,怎樣叫做independent,但是我沒有告訴你說怎麼算,現在有了高斯消去法,你可以解一個system of linear equation以後,接下來如果問你一個vector set是dependent還是independent的,你就有辦法可以做了。
link |
22:31.080
那這邊來複習一下dependent跟independent,我們說有一個vector set A1到An,我們說它是dependent的,代表什麼意思呢?代表說在這個vector set裏面,有某一個vector,它是其他人的linear combination,有某一個vector,它是其他人的linear combination,它是多餘的,這個時候我們說這個vector set是dependent的。
link |
22:53.640
或者是說有另外一個定義是,也就是這個dependent,真正的定義是,給你一個vector set A1到An,如果你今天找得到一組scanner X1到Xn,它們不全為0,然後你用這個X1到Xn對A1到An做linear combination,你卻可以得到zero vector的話,叫做independent。
link |
23:21.960
那這件事情怎麼驗證呢?怎麼知道說今天給你一個vector set,你找得到一組不全為0的coefficient做linear combination以後等於zero vector呢?你就把這件事情解成一個system of linear equation,然後接下來去解它就結束了。
link |
23:40.840
所以我們現在把A1到An並起來,當作是一個matrix A,把它的coefficient,把做linear combination以後的那些scanner X1到Xn,通通都排在一起,當作是一個vector X。
link |
23:56.840
那你現在linear combination後等於0這件事情就是一個system of linear equation,它寫成matrix A乘上vector X,乘上vector X等於zero vector。
link |
24:12.200
那接下來你要問的問題,就是你找得到一個X,這個X不等於0,如果你找得到一個X不等於0,那A的column所構成的這個vector set,它就是independent。
link |
24:30.760
那怎麼知道X有沒有不等於0的solution呢?那你就實際上解看看,就這樣,實際上用高斯消去法,解一下這個system of linear equation,看有沒有非0的solution,你就知道A的column是不是一個dependent的vector set。
link |
24:47.720
那這邊就實際操作一下,問你這個vector set是不是dependent的,你就把它所有的column都放在一起,變成一個matrix A,然後把你的式子AX等於0寫下來,然後真的去解它,真的去解它。
link |
25:03.160
那真的去解它怎麼解呢?你先把augmented的matrix列出來,然後接下來做reduce row echelon form,在操作的過程我們就不詳述,反正就是經過一番操作以後,你把augmented的matrix變成reduce row echelon form。
link |
25:24.760
那接下來就是怒解一發,看看它的solution長什麼樣子,先把reduce row echelon form還原回system of linear equation。
link |
25:33.960
第一個row它是1倍的x1加2倍的x3等於0,第二個row它是1倍的x2減負1倍的x3等於0,最後一個row它是x4等於0。
link |
25:57.960
接下來就做一番整理,你通常會把leading entry對應到的variable留在左邊,其他拿到右邊去,所以x1等於負2倍的x3,把x3挪到右邊去,所以x2等於x3,x4等於0,那x3沒有式子它就是free variable。
link |
26:20.840
接下來你就可以把它的solution寫出來,x1x2x3x4等於多少,等於負2倍的x3,x3x3跟0,那你整理一下把x3提出來,所以今天這個system of linear equation的solution是x3倍的負211,
link |
26:40.680
那你能不能夠找到一個non-zero的solution呢,可以,你就隨便舉一個x3代1,那它的solution是負2110,所以這個solution,這個vector它是ax等於0,這一個system of linear equation的solution。
link |
26:59.840
而因為你現在找得到一個x不等於0,而可以讓ax等於0,所以a的colon是dependent,a的colon所形成的vector set是dependent。
link |
27:13.120
那你可以用解system of linear equation的方式來確認說一個vector set它是dependent的還是independent的。
link |
27:20.720
好,那這個就是這份課程了,謝謝大家的觀看,謝謝大家的收聽,我們下次節目再見。