back to index
Linear Algebra Lecture 17: How to find the Inverse of a Matrix

link |
好,如果沒有問題要問的話呢,接下來我們要講一下,我們稍微講一下elementary的matrix在下課。
link |
好,那接下來呢,我們今天到目前為止,我們已經講了什麼是matrix的inverse,又告訴你說一個invertible的matrix有什麼樣的性質。
link |
那接下來我們要講的是,如何真的找出matrix的inverse,給你一個matrix,你不只要知道說它是不是invertible的,還要把它的inverse給算出來。
link |
好,那在講說給你一個general的,隨便給你一個matrix怎麼算它的inverse之前,我們先講我們怎麼算某種特別的matrix,這種matrix叫做elementary的matrix它的inverse。
link |
好,我們先來講什麼是elementary的matrix,之前在講這個reduce row h2o form的時候,我們講過一種操作叫做elementary的row operation,我們講過一種操作叫做elementary的row operation。
link |
那我們說elementary的row operation,總共有三種操作,一種是把row進行交換,一種是把row乘上一個scalar,最後一種是把某一個row乘上k back,把第二個row乘上k back,然後加給這一個row。
link |
那事實上這些elementary的row operation,它們都可以表示成一個matrix,也就是說你想要把ABCD這一個matrix做interchange這件事,做row交換這件事,你其實可以把這件事情想成是乘上一個特別的matrix。
link |
你把ABCD這個matrix乘上0110這個matrix,你就會發現說它的兩個row被交換了,變成cdab這個matrix。
link |
那同理呢,對scaling這件事情來說也是一樣,你把ABCD這個matrix,它的第二個row做scaling乘上k back,等同於你把ABCD這個matrix乘上一個特別的matrix100k,你把ABCD這個matrix乘上100k,你就可以把第二個row乘上k back。
link |
那如果我們現在要把第一個row乘上k back,加到第二個row的話,怎麼做呢?你就把它乘上10k1這個matrix,你把ABCD這個matrix乘上10k1這個matrix,你就可以把第一個row乘上k back,加到第二個row。
link |
所以這個投影片想要告訴大家的事情是,elementary的row operation那三種操作,其實可以表示成matrix的相乘。
link |
好,那這些可以拿來做elementary row operation的matrix,它們就叫做elementary的matrix。
link |
接下來會告訴大家就是說,elementary的matrix,你可以一秒鐘就看出它的inverse長什麼樣子。
link |
有一些matrix叫做elementary的matrix,把這些elementary的matrix拿去跟另外一個matrix做相乘,你就可以做elementary的row operation。
link |
接下來的問題是,假設我給你一個指定的elementary row operation,你能不能夠寫出它的elementary的matrix呢?
link |
假設我告訴你說有一個elementary的row operation,這個elementary的row operation就是把第一個row跟第二個row做交換。
link |
那把第一個row跟第二個row交換的這一個elementary的row operation對應的elementary matrix,你能不能夠一秒鐘就把它寫出來呢?
link |
那其實是很容易的。我們說elementary matrix的作用就是,假設你今天有一個elementary matrix叫做1,1的作用是把第一個row跟第二個row進行交換。
link |
那你把1這個matrix跟任何一個matrix相乘,它就會把第一個row跟第二個row進行交換。
link |
不管乘哪一個matrix,它都會把第一個row跟第二個row進行交換。
link |
那你想要知道1長什麼樣子,怎麼做呢?你就把1拿去跟identity matrix進行相乘。
link |
雖然你還不知道1長什麼樣子,但你知道1所造成的結果就是把第一個row跟第二個row進行交換。
link |
所以你把1乘上identity matrix以後,identity matrix的第一個row跟第二個row就交換了。
link |
第一個row跑到第二個row,第二個row跑到第一個row,第一個row跟第二個row就交換了。
link |
好,那我們又知道說identity matrix乘上任何matrix都不會改變原來的matrix。
link |
所以identity matrix乘上elementary的matrix1得到的結果仍然是1。
link |
所以這就告訴我們說elementary matrix1長什麼樣子,它的長相就是把identity matrix的第一個row跟第二個row進行交換。
link |
所以我們今天學到什麼事?我們今天學到說,假設你想要知道一個elementary的matrix長什麼樣子,
link |
那你就把一個identity matrix拿出來,然後做你想要那個elementary matrix做的操作,就結束了。
link |
舉例來說,你今天想要有一個elementary matrix,它的功用是把第二個row跟第三個row進行交換。
link |
那這個elementary matrix長什麼樣子呢?它就是把identity matrix的第二個row跟第三個row進行交換,就結束了。
link |
它就是可以把第二個row跟第三個row進行交換的elementary matrix。
link |
假設你今天想要把第二個row乘上負四,那怎麼辦呢?
link |
你就把identity matrix拿出來,把它的第二個row乘上負四,你就得到一個可以把第二個row乘上負四的elementary matrix。
link |
假設你現在想要把第一個row乘兩倍加到第三個row,那你就把identity matrix拿出來,
link |
把第一個row乘兩倍加到第三個row,把第一個row乘兩倍加到第三個row,
link |
那你就得到一個可以把第一個row乘兩倍加到第三個row的elementary matrix。
link |
所以我們現在知道說,給你一個elementary row operation,你可以輕易地找出一個對應的elementary matrix。
link |
那現在呢,如果我們把elementary matrix E1,它可以把第二個row和第三個row交換,跟A相乘,
link |
那你就把A的第二個row和第三個row交換。你今天如果把E2,它可以把第二個row乘負四倍跟A相乘,
link |
那你就是把第二個row乘負四倍。E3,它可以把第一個row乘兩倍加到第三個row,
link |
那它跟A相乘,就是把A的第一個row乘兩倍加到第三個row,就這麼簡單。
link |
好,那接下來要告訴大家的是,這些elementary matrix,你可以輕易地找出它的inverse。
link |
每一個elementary matrix,它的inverse是什麼呢?
link |
就是那個elementary matrix所對應的operation的逆向操作。
link |
什麼意思?我們說E1,它做的事情是把第二個row跟第三個row進行交換。
link |
那你今天如果要找E1的inverse的話,E1的inverse,它做的操作是什麼呢?
link |
E1的inverse,它做的操作就是把第二行,第二個row跟第三個row再交換一次。
link |
這樣大家可以了解嗎?如果你今天把第二個row跟第三個row進行交換,
link |
你再把第二個row跟第三個row再做一次交換,那你會得到原來的matrix。
link |
或者是說,我們知道說E1的inverse,它要成為E1的inverse,
link |
它的特性就是它跟E1做相乘以後,會是identity的matrix。
link |
如果你要對E1這個matrix做一個elementary的row operation,把它變成identity的matrix,你會怎麼做呢?
link |
你是不是就把第二個row跟第三個row再進行交換,第二個row跟第三個row進行交換,那E1就變成一個identity matrix。
link |
那E1這個matrix要做什麼樣的operation,要成什麼樣的elementary的matrix,可以把第二個row跟第三個row交換呢?
link |
就是你要得到這個把第二個row跟第三個row交換的matrix,你就是把identity matrix的第二個row跟第三個row進行交換,
link |
你就會得到這個可以把第二個row跟第三個row進行交換的elementary matrix。
link |
所以E1乘上E1的inverse,會等於identity。
link |
所以今天給你一個elementary的matrix,你只要知道這個elementary matrix它做operation是什麼,你就可以找到一個逆向的operation。
link |
這個逆向的operation所對應的elementary matrix就是它的inverse。
link |
我們再舉另外一個例子,如果今天你有一個elementary matrix E2,它的工作就是把第二個row乘上負四倍。
link |
假設你已經把一個matrix的第二個row乘上負四倍,那你怎麼把它還原呢?
link |
你就是把第二個row乘上負四分之一倍,就可以把本來乘負四倍這件事情還原回原來的樣子。
link |
那把第二個row乘上負四分之一倍的elementary matrix長什麼樣子呢?
link |
它就是把identity matrix的第二個row乘上負四分之一倍。
link |
那把第二個row乘上負四分之一倍對應的elementary matrix E2的inverse,
link |
會是把第二個row乘上負四倍的elementary matrix E2的inverse。
link |
那我們再舉最後一個例子,今天我們知道把第二個row乘上兩倍加到第三個row的elementary matrix長什麼樣子。
link |
那如果我們要把第一個row乘上兩倍加到第三個row這件事情還原,那我們會怎麼做呢?
link |
我們就把第一個row乘上負二倍再加給第三個row。
link |
本來是把第一個row乘上兩倍加給第三個row,要把它還原就把它乘上負二倍再加給第三個row。
link |
那把第一個row乘上負二倍再加給第三個row的elementary matrix,你可以輕易的寫出來,
link |
你就是把identity matrix的第一個row乘上負二倍加給第三個row。
link |
那你就得到一個elementary matrix,它的工作是什麼?
link |
它的工作就是把第一個row乘上負二倍加給第三個row。
link |
而這個elementary matrix它會是左邊這一個把第一個row乘上兩倍加給第三個row的elementary matrix的inverse。
link |
那所以這一個投影片想要告訴大家的事情是說,每一個elementary matrix你其實用想的就可以輕易的找出它的inverse。
link |
所以每一個elementary matrix它都是invertible的,你可以用想的就可以找得出它的inverse。
link |
好,那接下來呢,我們什麼時候教過elementary row operation呢?
link |
是在講reduce row echelon form的時候。
link |
我們說把一個matrix A做完一連串的elementary row operation,它就會得到它的reduce row echelon form R。
link |
現在我們可以把做一連串elementary row operation這個乘數換句話說,怎麼換句話說呢?
link |
它的換句話說就是,把matrix A乘上一連串的elementary matrix,每一個elementary matrix就代表做了一次elementary row operation,最後會得到A的reduce row echelon form,也就是R。
link |
所以我們可以說,每一個matrix A跟它的reduce row echelon form R之間有這樣子一個關係。
link |
每一個matrix A它都可以乘上某一個matrix P,這個matrix P它其實是invertible的,它會得到matrix A的reduce row echelon form這邊的寫作R。
link |
怎麼說呢?因為我們現在已經知道說,A乘上一連串的elementary matrix會得到reduce row echelon form。
link |
我們就把這一連串的elementary matrix乘起來,然後說它叫做P,這個P它乘上A以後就會得到reduce row echelon form R,這個P就是Ek乘Ek-1是一直乘到E2,乘到E1就是P。
link |
這個P有什麼樣的特性呢?它的特性是它是invertible,怎麼知道P是invertible的呢?不需證明,不需要檢查說它有沒有invertible matrix的那些種種特性。
link |
因為我們現在已經知道說,所有的elementary matrix它都是invertible的,所有的elementary matrix,你只要一眼就可以看出它的inverse是什麼,它們都是invertible的。
link |
我們之前講過說,把一堆invertible的matrix相乘,仍然是invertible的,現在你有一堆invertible的matrix E1到Ek,你把它們相乘,所以得到的P它仍然是invertible的。
link |
那它的inverse長什麼樣子呢?P的inverse長什麼樣子呢?這個我們之前也講過了,你把Ek一直乘到E1,它的inverse就是E1的inverse乘E2的inverse一直乘到Ek的inverse。
link |
所以不信的話,你就把這個東西跟這個東西相乘,你就會發現說它得到的是一個identity matrix。
link |
好,所以我們今天學到說,把一個matrix做reduce row echelon form,其實你做的事情就是把這個matrix乘上一個invertible的matrix。
link |
好,那剛才在講invertible的時候,我們還有一個跟invertible等價的敘述,我們還沒有討論到。
link |
我們說,如果一個matrix是invertible的,那if and only if,這個matrix會是一堆elementary matrix的相乘。
link |
這件事情怎麼來呢?我們現在已經知道一個matrix A跟它的reduce row echelon form之間的關係,就是乘上一個invertible的matrix P。
link |
那我們又知道說,假設一個matrix是invertible的,那它的reduce row echelon form一定會是identity matrix。
link |
假設一個matrix A是invertible的,它的reduce row echelon form一定會是identity matrix。
link |
那我們就知道說,把A乘上一連串的elementary row operation,你可以把它變成identity matrix,也就是它的reduce row echelon form。
link |
那我們就可以寫說,這個A它等於什麼呢?你就把這個EK的inverse乘在這個式子的左邊。
link |
我們把EK的inverse寫出來,其實沒有那麼好寫,因為它有上標又有下標,把EK的inverse寫出來,把它乘在左邊又乘在右邊。
link |
這樣子你就可以把EK跟EK的inverse把它消掉,這邊左邊乘上EK的inverse,右邊乘上EK的inverse,你就可以把EK消掉。
link |
接下來你再乘上EK-1,再乘上EK-2的inverse,以此類推,最後你就會發現說,matrix A等於identity matrix乘上EK的inverse,乘上EK-1的inverse,乘上E2的inverse,乘上E1的inverse。
link |
所以我們發現,A是一堆elementary matrix的inverse的相乘,那elementary matrix的inverse,它其實仍然是elementary matrix。
link |
我們剛才有講過說,每一個elementary matrix的inverse怎麼來,你用肉眼就可以看出來。
link |
比如說,某一個elementary的matrix是把第二行和第三行做對調,那它的inverse也就是把第二行和第三行做對調,所以每一個elementary matrix它的inverse也是elementary matrix。
link |
所以這邊的E1-inverse到EK-inverse,它們也都是elementary matrix,所以我們就可以說,matrix A如果它是invertible的話,保證它的reduced row echelon form是identity,那就保證說它是一堆elementary matrix的相乘。
link |
這個結論有什麼用呢?在乍看之下沒有特別有趣,就有點無聊這樣。
link |
但是它的作用是在於接下來,它會幫助我們找出general的matrix,就隨便給你一個matrix,它的inverse長什麼樣子。
link |
好,那接下來我們要講的就是說,剛才講的就是說,給你elementary matrix,你可以找出它的inverse。
link |
接下來我們就要講的是,隨便給你一個matrix,你怎麼找出它的inverse呢?
link |
好,那我們先來看一下,如果是一個2x2的matrix,你怎麼找它的inverse?
link |
如果一個2x2的matrix,你要找它的inverse,你是可以硬解的。怎麼硬解?
link |
你就說,有一個matrixA叫做ABCD,它是一個2x2的matrix,我現在要找它的inverse,它的inverse裡面有四個element,我們寫作EFGH。
link |
ABCD是已知的,EFGH是未知的,我們要把它找出來。
link |
那怎麼找呢?我們知道說Ainverse的定義就是Ainverse跟A相乘等於identity matrix,
link |
所以ABCD這個matrix乘上EFGH這個matrix,你要得到identity matrix。
link |
接下來你就列出四個式子,把A乘上E加上B乘上G要等於1,
link |
把這個CD跟FH做inner product,也就是C乘上F加上D乘上H,要等於什麼?要等於0。
link |
以此類推,你總共可以列出四個式子,四個未知數,接下來就是硬解一發,你會得到說Ainverse長這樣。
link |
公式解你可以背下來,如果有人問你2x2的matrix,它的inverse長什麼樣子,直接套下面這個公式,你就知道說Ainverse長什麼樣子。
link |
好,那這個是2x2的case,那如果matrix比較大,3x3也是有公式,也是有某些人記得,
link |
但4x4我相信就沒有人記得它的公式長什麼樣子,它很複雜,所以沒有人會去手算那個東西。
link |
那所以怎麼辦?我們需要一個更有效的方法來找出A的inverse,怎麼做呢?
link |
就用我們剛才學到的,我們剛才學到說,如果一個matrix A它是invertible的,那if and only if它的reduced row HL4一定是identity,
link |
而且它這個matrix A一定是一堆elementary matrix的相乘。
link |
好,那我們就用這個性質,我們就可以找出算出A的inverse,我們知道說某一個matrix A它乘上一堆elementary matrix以後,
link |
會得到它的reduced row HL4R,我們又知道說假設A是invertible的,那它的reduced row HL4一定是identity matrix。
link |
那這告訴我們什麼?這告訴我們說,這個式子裡面就已經給了我們Ainverse了,因為今天這一堆elementary的matrix相乘,
link |
在乘上A以後,會得到A的reduced row HL4也就是identity matrix,這意味著這些elementary的matrix相乘它就是A的inverse,
link |
這是按照A的inverse的定義來的,所以我們知道A的inverse就是這些elementary matrix相乘。
link |
接下來要做的事情是什麼?接下來要做的事情就是,找出這些elementary matrix把它乘起來,你就知道A的inverse長什麼樣子了。
link |
所以比較直覺的做法就是,如果你今天要知道一個matrix A是不是它的inverse長什麼樣子,那你就去找它的reduced row HL4,
link |
那在找reduced row HL4的過程中,你把每一個elementary的operation,elementary的row operation統統記錄下來,把每一個elementary的row operation,它的elementary的matrix統統寫下來,
link |
再相乘,就得到A的inverse了,結束,就概念上你要做的就是這件事。
link |
但剛才那個步驟聽起來有點複雜,所以你其實有一個更簡潔的方法來做這件事,怎麼做這件事呢?
link |
以下的操作跟我剛才要講的那個乘數是一模一樣的,只是用一個比較簡潔的方式來表示它。
link |
那如果等一下操作你聽不懂的話,你就記得說要找matrix A的inverse,你就做reduced row HL4,看中間你用到了什麼樣的elementary的operation,把這些operation的matrix統統乘起來,就是A的inverse。
link |
好,那這個操作是這樣子的,你有一個matrix A,你想要找它的inverse,你把這個matrix A跟identity matrix擺在一起,得到一個augmented的matrix。
link |
那你把這個augmented的matrix去找它的reduced row HL4,它長的是這個樣子。
link |
好,在這個reduced row HL4裡面,假設A的dimension是k,它的dimension可以是k嗎?
link |
不行,因為我前面已經說它是一個n by n的matrix了,它的dimension是n,後面你把它再接一個identity的matrix,所以這個identity的matrix它的column的數目也是n。
link |
所以它們的augmented的matrix是一個n乘以2n的matrix,那當然做完reduced row HL4以後,它仍然是一個n乘以2n的matrix。
link |
這個n乘以2n的matrix,它前n個column,我們把它寫作R,這個R會是什麼?這個R會是A的reduced row HL4,你把A拿來做reduced row HL4,它會得到這個augmented matrix的reduced row HL4的前n個column,也就是R。
link |
那B會是什麼?B是一個n by n的matrix,其實B這個matrix,你單獨拿出來看,它不見得是一個reduced row HL4,對不對,就是R跟B接起來是一個reduced row HL4,你單獨拿B出來,它不見得是reduced row HL4。
link |
B是什麼?事實上B就是A的inverse,但前提要是A是invertible的,如果A是invertible的,你把A跟IN這個augmented matrix拿去做reduced row HL4以後,這個augmented matrix前面n個column會變成identity matrix,而後半部的B拿出來,它直接就是A inverse。
link |
所以你做這個操作的時候,你就一次做了兩件事,第一個是檢查A是不是invertible的,如果前半部是identity matrix,A就是invertible的,那它的inverse長什麼樣子,它的inverse就是B。
link |
那怎麼解釋呢?這個也非常的直覺,我們現在把AIN這個augmented matrix乘上一連串的elementary row operation,所以一連串的elementary row operation變成R。
link |
那我們知道說前面這一串elementary row operation其實就是A inverse,所以前面是A會變成identity matrix,後面IN,你把這個A inverse乘進去,那它就變成A inverse。
link |
所以你把這個augmented matrix做elementary row operation以後,你得到的後n個column就是A inverse,就這樣,就結束了。
link |
那假設今天更進一步要求你不只是找出A的inverse,這邊先講一下這個例子,如果你今天給你一個matrix A,你要求它的inverse,你會怎麼做呢?
link |
首先你要先確定A是invertible的,它才能夠找它的inverse,但是invertible這件事情的檢測可以跟找inverse這件事情同時進行,你就把A跟一個3乘以3的identity matrix接在一起,A在前面,A在這邊,後面是一個identity的matrix。
link |
接下來你就做一連串的elementary row operation,直到找出reduced row H2O,那elementary row operation的細節我們就不講了,就暴做一波,都是用電腦算的,只是考試會叫你用手算而已,但是實際上做你一定是用電腦算的。
link |
好,怒算一波,算完以後,你就發現說前半部是identity matrix,所以matrix A果然是invertible的,後半段呢?後半段就是A inverse,結束,結束。
link |
那假設有人問你更多,他說他不只要你求A的inverse,他要叫你求A的inverse乘上C這個matrix,當然你可以說你先把A的inverse先算出來,再把它乘上C,那你就得到A的inverse乘上C,但是實際上你可以做得更簡潔一點,怎麼做得更簡潔一點呢?
link |
我們之前在找A的inverse的時候,我是把A跟它的identity matrix做成一個augmented matrix,現在我們把A跟C做成一個augmented matrix,找出這個A C的augmented matrix的reduced row H2O,也就是R C',這個時候C'自動就會是A的inverse乘以C了。
link |
為什麼?這個很直覺,因為我們說我們把A C做這個reduced row H2O form,就是把A C乘上一堆的elementary row operation,而這堆elementary row operation正好就是A inverse,那你把這堆elementary row operation乘進去以後,它乘上A會得到identity matrix,它乘上C就會得到A inverse乘以C,所以就結束了。
link |
好,那inverse的部分我們就講到這邊,助教來了,請助教講一下後頁二。