整理&字幕由Amara.org社區提供

理解System of Linear Equation,從reduce row echelon form這個東西,我們可以學到很多事情。

接下來呢,我們就是要看說,從reduce row echelon form,我們可以學到什麼東西。

那這邊總共分成四個面向來講,我們第一個要講說,reduce row echelon form跟linear combination的關係。

接下來要分別講reduce row echelon form跟dependent-independent,還有跟rank,還有跟span之間的關係。

好,那我們就先講reduce row echelon form跟linear combination之間的關係。

好,那這邊有一個很實用的定理,在很多地方都會用到的定理,叫做Harlan Correspondent Theory。

這個Harlan Correspondent Theory是說呢,現在你有一個matrix A,它裡面的Harlan,我們寫做A1到An,

我們把matrix A做reduce row echelon form,得到它的A的reduce row echelon form就是R,它的n個Harlan是R1到Rn。

那你會發現說呢,這A1到An這n個vector,還有這R1到Rn這n個vector,它們有些不可告人的關係這樣子。

它的關係是什麼呢?它的關係是,如果今天在這個vector set裡面,Aj是某些其他column的linear combination,

那在這一個R所組成的vector set裡面,Rj也會是同一組對應的vector的linear combination。

那這樣講可能有點抽象,我們就舉個具體的例子,假設我們知道說,A5第五個column等於負1倍的第一個column加第四個column,

A5等於負1倍的A1加A4,那麼我們馬上就可以知道說,雖然我們不知道說這個matrix實際上長什麼樣子,

但是你就可以瞄反應說,這個matrix做完reduce row echelon form以後,R5一定會等於負1倍的R1加R4。

那反過來也是成立的,如果Rj是其他的column,其他的R的linear combination,那反過來說,

同一個對應的columnAj就會是其他同樣對應的column的linear combination。

我是直接舉一個例子就是,假設我隨便亂舉一個例子說,R3等於3倍的R1減2倍的R2,那麼A3就會等於3倍的A1減2倍的A2,就這樣。

這個是column的correspondent的theory。

那在更正式的證明它之前,我們就舉個例子,這個例子就是說,我現在有一個matrix A,那它有六個column,

我們把這個matrix A做一下reduce row echelon form,得到它的reduce row echelon form R,這個R裡面也有六個column,R1到R6。

那你可以檢查一下這個R,它是不是一個reduce row echelon form,檢查一下,嗯,它確實是一個reduce row echelon form。

那你就可以檢查一下,是不是在A這個matrix裡面的column的關係,到R這個matrix那個column的關係,是不是仍然是一樣的。

舉例來說,在A裡面,你發現A1跟A2有某個關係,A2是2倍的A1,而A1乘2倍就變成A2,那在R裡面,果然R1乘2倍就會變成R2。

如果A1乘2倍會變成A2,那R1乘2倍就會變成R2,你從這個例子裡面可以看出來。

或是你找一個更複雜的關係,那這個關係是什麼呢?我們發現說這個R5呢,它是-1倍的R1加上1倍的R4等於R5。

這兩個-1倍的R1加1倍的R4等於R5,那你馬上就可以知道說A5等於-1倍的A1加A4。

那這樣子的好處是說,如果直接叫你問你說這個A5跟A1、A4的關係,因為它們的數字比較複雜,也許你一眼看不出來。

當然這個數字還沒有真的很複雜啦,也許你還是可以一眼看不出來,但沒有那麼直覺。

但是如果看reduce at raw hreform的話,R1、R4跟R5的關係就很明確,那這樣同樣的關係會延伸到A1、A4跟A5上面,會延伸到A1、A4跟A5上面。

所以在A裡面colline的關係,做完reduce at raw hreform以後,它的colline的關係仍然是一樣的。

那為什麼會這樣子呢?一個很簡單的解釋是說,elementary raw operation,我們說把一個matrix整理成它的reduce at raw hreform,你做的就是elementary raw operation。

Elementary raw operation不會改變colline之間的關係,那我們就舉幾個例子。

舉例來說,我這邊有一個matrix A,那它的第一個colline加第二個colline會等於第三個colline,那你做三個elementary raw operation都不會影響A1、A2、A3之間的關係。

舉例來說,我們說哪有哪三個elementary raw operation呢?第一個是把raw做exchange,把raw做交換。

舉例來說,我們把這兩個raw,第一個跟第三個做交換,把A變成B,但是這個時候第一個colline加第二個colline仍然會是第三個colline,你可以從這個例子裡面很直覺地看出來。

那還有哪些elementary raw operation呢?有一個是scaling,把某一個raw乘上n倍。

舉例來說,我們現在把第一個raw乘兩倍,得到一個新的matrix C,那你會發現說第一個colline在C這個matrix裡面,第一個colline加第二個colline仍然等於第三個colline。

那接下來呢,我們還有第三個elementary raw operation是把某一個raw乘上某一個東西加給另外一個raw。

舉例來說,我們現在把上面這個raw乘上負一,加給下面這個raw,那你得到的結果是另外一個新的matrix D,但你會發現說第一個collineD1加第二個collineD2仍然等於第三個colline。

等一下會有更嚴謹的證明,這邊只是說給你一個直覺,elementary raw operation不會影響colline之間的關係。所以你可以想成是說,這個colline correspondent fearing就是colline間的承諾,他們之間的承諾是不會因為elementary raw operation而改變的。

就是elementary raw operation會因為colline的樣貌而改變樣子。我們做elementary raw operation以後colline的樣子就變了,雖然他們的樣子變了,但是他們之間的關係是不會改變的。

就好像你在給另外一個人承諾的時候會說,不管你變得什麼樣子,不管是海枯石爛,仍然會愛某個人一生一世,其實就是這樣子的道理。

那其實只有colline有colline的correspondent fearing,如果是raw的話就沒有raw的correspondent fearing。

那如果要更詳細的證明的話,怎麼說呢?我們在做這個證明之前,我們要先講另外一件事情。我們說如果有一個matrix A,它做完reduce raw h2o form以後得到的matrix是R,那我們現在有一個A的augmented matrix,也就是說我們把A後面再拼一個colline B,然後說這個matrix叫做A'。

那你把A'做reduce raw h2o form以後,會得到一個新的matrix,這個matrix叫做R'。

那這個R'如果你把它去掉最後一個colline,你會發現說它前半部仍然是A這個matrix的reduce raw h2o form。

或是我們舉一個具體的例子,假設你現在有一個augmented matrix AB,有一個augmented matrix A,後面加上一個colline B,那你現在做reduce raw h2o form,得到AB這個augmented matrix reduce raw h2o form。

但你可以發現說前面這個部分,這個部分是A,如果去掉最後一個colline的話,這個部分是A。那你把augmented matrix的reduce raw h2o form,這個我們把它寫成R',你把這個R'的reduce raw h2o form拿出來,那你會發現說去掉第一個colline以後,剩餘的部分,它是A的reduce raw h2o form。

那這件事情其實就不需要證明了,因為它其實非常的直覺,就是顯然是成立的。

怎麼說呢?如果我現在有一個matrix叫做R',它是在它的reduce raw h2o form,我們拿掉它的最後一個colline,我們把這個R'拿掉它的最後一個colline,它仍然是一個reduce raw h2o form。

而這一個reduce raw h2o form R,它是經過,它是A這個部分,經過一番elementary raw operation以後得到的。

就是說我們本來在做elementary raw operation的時候,雖然是在整個augmented matrix上做,但是跟在去掉最後一個colline,其餘的部分做,其實意思是一樣的,你仍然是在做elementary raw operation,並不會因為你去掉最後一個colline而有影響。

所以你把A這個matrix做elementary raw operation,就會得到R這個matrix,而R這個matrix是一個reduce raw h2o form,所以這個matrix R是A的reduce raw h2o form,總之這個非常的直覺。

那有了這個東西以後,你就可以輕易地看出colline的correspondent theory,怎麼說呢?在講這個之前,就先問大家幾個問題。如果今天A的reduce raw h2o form,它是R,如果A的reduce raw h2o form是R,

那現在AX等於B跟另外一個system of linear equation RX等於B,它們是不是一定會有一樣的解呢?

我們說,把一個matrix整理成reduce raw h2o form以後,並不會影響它的solution set,那所以現在有一個matrix A,把它做reduce raw h2o form以後得到R,那AX等於B這個system of linear equation跟RX等於B這個system of linear equation,它們有同樣的解,還是它們並不會有同樣的解嗎?

你仔細想一下,你覺得一定會有同樣的解的同學舉手一下。那你覺得它不一定會有同樣的解的同學舉手一下。多數人覺得它不一定會有同樣的解,確實它不一定會有同樣的解。

那如果你對這件事情有困惑的話,那我再問你下一個問題。這個問題是這樣,有一個augmented matrix AB,它做完reduce raw h2o form以後是RB'.

這個時候我寫兩個system of linear equation,一個是AX等於B,另外一個是RX等於B'. 它們會有同樣的解嗎?你覺得會有同樣的解的同學舉手一下。

手放下,你覺得它會有不同的解的同學舉手一下。沒有,所以大家都覺得它會有同樣的解。所以如果你對第一個乘數感到困惑的話,那你就比較一下上下這兩個乘數,看看它們有什麼不一樣的地方。

所以你要注意一下,當我們說做raw operation,把一個matrix變成它的reduce raw h2o form,不會影響它的solution set的時候,我們指的是augmented matrix。

我們指的是matrix A加上column B變成一個augmented matrix A'的時候,它做完reduce raw h2o form,得到它的reduce raw h2o form R', 它們在弄回system of linear equation的時候,它們的解是一樣的。

但是我們從來沒有說AX等於B跟RX等於B,它們會有同樣的解。希望大家可以了解這個之間的差別。

但是我們現在如果再做另外一個乘數,這個乘數是這個樣子,這個乘數是說,如果有一個matrix A,它的reduce raw h2o form是R,現在我們說AX等於0,RX等於0,我們現在要兩個system of linear equation,它們一定會有一樣的解嗎?

給你一個提示,這個提示是這個樣子,你看這個第一個乘數跟第三個乘數其實是還蠻像的,唯一不一樣的地方只是說,上面是說in general而言,AX等於0跟RX等於0這兩個system of linear equation,不一定會有一樣的解。

那我看下面這個乘數,下面這個乘數是說,把B換成0,跟上面比起來就是把B換成0,那我要問你說,AX等於0跟RX等於0,它們是不是會有一樣的解呢?

你比較一下第一個跟第三個,它們是不是會有一樣的解呢?你覺得它們一定會有一樣的解的同學舉手一下,手放下,你覺得它不一定會有一樣的解的同學舉手一下。

所以大家都覺得它會有一樣的解,沒錯,它會有一樣的解,雖然在上面第一個case,如果B是任意的vector,它們不一定有一樣的解,但是如果我們只考慮一個special case,也就是說B等於0的話,那它們會有一樣的解,為什麼?

因為,你想想看,今天有一個matrix AB,我們令B等於0,做完reduce row echelon form以後,不管你的row operation是怎麼操作的,B'一定等於0。

你把一個matrix B做operation,那些row的operation,這個B是一個zero vector,做完那些row operation以後,它仍然是一個zero vector。

所以我們現在知道說,雖然AX等於B跟RX等於B不一定有一樣的解,但是AX等於0跟RX等於0,它們一定會有一樣的solution。

這件事情其實就是Colin Correspondent Theory的另外一個陳述,結束了這樣子。

你可能說,結束了嗎?對,就是結束了這樣子。

就是假設你可以接受說,AX等於0跟RX等於0,它們一定會有一樣的solution set的話,那這件事情其實就是Colin Correspondent Theory,就這樣子。

如果你還是不能接受的話,就假設你悟性高的話,你就知道說它們是在講同一件事,如果你還是不能接受的話,就只好舉個例子告訴你說是怎麼回事。

你想一下,這個matrix A它長這樣,做完reduce row echelon form以後,它的R長這個樣子。

我們說,如果在A裡面,某一個Colin舉例來說,A2等於2倍的A1,在R裡面,R2也會等於2倍的R1,這件事情等同於在說什麼?

這件事情等同於在說,你可以把,我們現在先把A2跟A1都放到同一邊,-2倍的A1加A2等於0。

-2倍的A1加A2等於0的意思是什麼?意思是說,今天AX等於0這個system of linear equation,我知道它有一組解。

這組解是把A1代-2,A2代1,其他代0。

所以今天每一個linear combination的equation,其實都對應了一件事情,它對應的事情是AX等於0這個system of linear equation的某一個solution。

每一個linear combination的式子,都對應到AX等於0這個system of linear equation的一個solution。

那我們又說,AX等於0跟RX等於0,它們有一模一樣的solution,它們的解是一模一樣的,所以AX等於0有這個解。

那RX等於0它就不甘示弱,它也要有一個一模一樣的解,它也要有一個一模一樣的解。

那既然RX等於0有一個一模一樣的解,那它就有一個一模一樣的linear combination的關係。

好,希望大家可以接受這個statement。

那下一頁投影片只是反過來說,這個我相信你應該已經覺得很無聊了,就是R5是R1、R4的linear combination。

所以你可以寫得出一個式子說R1-R4加R5等於0,所以你可以找到一個solution,讓RX等於0這個式子成立。

那同樣的solution,AX等於0也會成立,你就可以在A的column裡面,找到一個這個一樣的對應的linear combination之間的關係。

好,那剛才講的是column,我們說column有column correspondence的theorem。

那Raw有沒有Raw的correspondence的theorem呢?你仔細想一下會發現說是沒有的,是沒有的。

為什麼沒有呢?這個不需要證明,因為你就找個反例就知道說是沒有了這樣子。

我隨便舉一個例子,舉例來說,這個是matrix A,它的reduced row h2o form是R,然後你看R這邊呢,它下面還有一個zero的row。

zero的row,誰乘上0都會變成zero的row,但是這邊上面這三個column乘上0根本就不會等於下面這個column,所以沒有row的correspondence的theorem,就這樣。

那接下來我們可以檢查的是,我們可以看一下row的spec,如果我們把這四個row,我們把row寫成A1、A2、A3、A4,把它當作四個vector,把這四個vector數起來算它的spec。

我們把R的四個row,R1、R2、R3、R4,把它數起來算它的spec,你會發現什麼事呢?你會發現說這兩個spec,它的大小其實是一樣的,其實是一樣的,你會發現這兩個spec,它的大小其實是一樣的,這邊已經有一個等號了。

好,那剛才講的是說,如果我們今天把row做spec的話,你不會改,如果你今天你把這個matrix A跟它的reduce row hreform的row都做spec的話,你不會,你發現它們的spec的這個大小是一樣的。

那column有沒有同樣的特性呢?你可以直接舉個例子,就會發現說column是沒有這樣子的特性的。

我們說matrix A它有六個column,它的reduce row hreform R有六個column,我們把這些column找出它的spend set,你會發現說這兩個spend set是不一樣的,這兩個spend set是不一樣的。

那這件事也非常的直覺,因為你會發現說,如果你把這六個vector做spending,它得到的vector最下面的這個element一定是0,因為這些vector它的第四個element都是0,其它是什麼值呢?

我們不管,其它是什麼值我們不管,其它是什麼值我們不管,但第四個element一定是0。那你看左邊這個matrix A,左邊這個matrix A你可以輕易地在它的spending set裡面找出一個vector,它的第四個element不是0,所以column的spec跟它reduce row hreform以後column的spec是不一樣。

所以我們今天就得到這個很重要的結論,這個結論是一個matrix做完reduce row hreform以後,它的column間有什麼關係呢?

做reduce row hreform之前跟做reduce row hreform之後,column的關係是不變的,這個是一個column間的承諾,column間的承諾不會因為elementary的row operation而改變,

但是它們的span會改變,column的組成的vector set的span會不一樣。

但是如果是row的話呢,row並沒有row的correspondent inference,所以做完elementary row operation以後,row之間的關係會改變,但這些row全部集合起來做span以後,它們的span的set大小是一樣的。

這個要怎麼解釋呢?就是因為column它就是一個它,所以它是有承諾的,然後row就是很row的意思,就是weak,row就是weak的意思,所以它是沒有承諾的,所以只有column的correspondent inference,沒有row的correspondent inference,就是這個樣子。