back to index
Linear Algebra Lecture 6: Having Solution or Not

link |
那到目前為止呢,我們已經講了說這個線性系統,它就是System of Linear Equation。
link |
然後又告訴你說System of Linear Equation可以表示成matrix和vector的相乘。
link |
那接下來我們要問的問題就是說,我們怎麼知道一個System of Linear Equation它有解還是沒有解?
link |
那其實上課的投影片跟課本的內容可能是沒有完全align在一起的,但其實課本裡面有提到的東西,上課的時候都有講到。
link |
那只是有些地方用比較直觀的方法來陳述,那如果你有時間的話,你其實也可以自己去看一下課本的證明。
link |
那我會告訴你說,每一個投影片呢,它是對應到課本的第幾章、第幾節。
link |
那今天要講的是這樣子,就是我們已經知道說Linear System、System of Linear Equation跟matrix、vector的product,它們是同一件事情。
link |
接下來呢,我們今天要討論的是說,一個線性的系統是否有解,一個System of Linear Equation它是否有解。
link |
那我們要問的問題是這個樣子,假設給你A跟B,那接下來你要去檢測說,在給定A跟B的前提下,X是否存在?
link |
是否可以找得到一個X跟A做相乘以後,得到的輸出、得到的結果是B?
link |
或者是說,給定一個Linear System,然後呢,你有一個指定的output B,你能不能夠找到一個X,得到指定的output B?
link |
或者是說,今天呢,有一個System of Linear Equation,你有所有的coefficient A,你有constant term B,你能不能夠找到一組X1到Xn,使得這個Equation成立?
link |
那在今天這門課裡面呢,你會學到兩個新的專有名詞,一個是Linear Combination,然後第二個呢,是Span。
link |
那這個問題顯然非常重要,有沒有解這個問題顯然非常重要,因為你可以想像說,假設Linear的System是你的電路,然後現在呢,你的老闆指定你,這個電路要輸出,比如說B這麼大的電流,
link |
那你能不能夠找到一個合適的電壓源、電流源,使得輸出是老闆指定你要的東西?還是說,這件事情其實根本就辦不到,所以你就可以一拳灌爆他的鼻梁,告訴他說這件事情是辦不到的?
link |
好,那一個System of Linear Equation,如果它有解的話,那不管它是有一個解,或者是比一個更多的解,那我們說這一個System of Linear Equation,它是consistent。
link |
那如果它沒有解的話,或者是用另外一個說法是,它的解是空集合的話,那它的解是空集合跟沒有解其實是同一件事情,那我們說這一個System of Linear Equation,叫做inconsistent。
link |
那下面只是舉幾個例子,舉例來說,這一個System of Linear Equation,我們先不講它怎麼解,但是對你來說非常容易,這個是國中數學,它的唯一的解是3E,x1等於3,x2等於1。
link |
那對這第二個System of Linear Equation來說,它的解是長這個樣子的,它的解是3E加上T倍的-E3,不管T代哪一個時數,它都是上面這個System of Linear Equation的解。
link |
或者說,這一個System of Linear Equation,它沒有任何解,它的解是空集合。所以,第一個System of Linear Equation,它是consistent的,有解,不管是一個還是多個都叫做consistent。
link |
第二個System of Linear Equation,它是consistent的。第三個System of Linear Equation,它沒有解,所以它是inconsistent的。
link |
那有關檢查一個System of Linear Equation,它有解或沒有解這件事情,其實你在高中的時候也學過,舉例來說,你可能解過這樣子的問題,給你一個二元一次的連立方程式,比如說它長這個樣子。
link |
那接下來怎麼知道它有沒有解呢?你就會想像說,這個第一個Equation,它是一條直線,因為它只有x1和x2兩個變數,所以你可以把x1當作是x軸,x2當作是y軸,把這個Equation當作是一條直線畫在一個二維的平面上。
link |
那第二個Equation也是一條直線,那接下來你就把這兩條直線畫出來說,如果今天這兩條直線它們只有唯一一個交點,那這個System of Linear Equation它就是唯一解,那如果它們是平行的,那它就是無解,如果這兩條直線正好重合,那就有無成多解。
link |
所以在高中的時候,可能是學過解有兩個變數的,所以你可以畫在一個二維的平面上,你可能學過解三個變數的,你可以畫在一個三維的空間中,但是你可能沒有試著解過更高維的問題。
link |
那在線性代數這門課裡面,我們就是要解更高維的問題。
link |
首先要跟大家講的一個觀念是Linear Combination,Linear Combination是什麼意思呢?Linear Combination的意思是說,如果給你一個Vector的Set,給你一組Vector,這邊寫作V1到Vk,這邊總共有k個Vector。
link |
那這個k個Vector,你可以對它們做一個Operation,可以對它們做一個動作,這個動作叫做Linear Combination。Linear Combination這件事情是說,你找k個Scalar出來,你這個Vector Set裡面有k個Vector,那你這邊就找k個數值出來。
link |
那這個k個Scalar,我們又叫做Linear Combination的Coefficient,你找k個數值出來,然後把這k個Vector跟這k個數值做相乘,做Weighted Sum,你會得到一個新的Vector。
link |
你把U1這個Vector乘上C1,你把U2這個Vector乘上C2,一直到你把Uk這個Vector乘上Ck,你會得到,把它們全部加起來,把它們全部加起來,會得到一個新的Vector叫做V,這個V就是U1到Uk做Linear Combination的結果。
link |
那這邊就只是很快地描舉一個例子說,我有一個Vector Set,裡面有三個Vector,我們有Coefficient-3,4跟1,然後問你說呢,這三個Vector用這三個Coefficient做Linear Combination的結果是多少,來看看你能不能夠心算出它的結果。
link |
應該是多少呢?你就把-3乘上1,你就把4乘上1,再加上你把1乘上1,如果算錯你要跟我講一下,心算以後應該是2吧,對不對?
link |
接下來呢,你把-3乘上1,你把4乘上3,你把1乘上-1,得到的結果是多少呢?8,好,謝謝,那我就不用算了,是8,應該,好,是8,這樣子,所以這個就是非常的直覺,就是Linear Combination。
link |
那這個Linear Combination跟有解沒有解有什麼樣的關係呢?事實上呢,上週在講Matrix跟Vector的相乘的時候,其實我們已經提到了Linear Combination這個字眼。
link |
我們說,其實矩陣相乘就是矩陣的,矩陣跟向量的相乘,其實就是把矩陣的每一個Column做Linear Combination。
link |
我們說,我們會把所有的Coefficient集合起來當作一個Matrix來看,那這邊的Coefficient就對應到同一個Variable的Coefficient,我們把它集合起來就是矩陣的其中一個Column。
link |
跟第一個Coefficient相乘的就是矩陣的第一個Column,跟第二個Coefficient相乘的就是矩陣的第二個Column,以此類推。
link |
然後我們說,把這個矩陣A跟向量X相乘得到的結果,其實就是把這A1到AN這N個Vector,根據X這裡面的N個Coefficient做Linear Combination。
link |
所以其實,矩陣跟Vector,Matrix跟Vector相乘,就是把Matrix的Column做Linear Combination。
link |
所以在Linear Combination裡面,我們一個Vector Set有一組Coefficient,那在矩陣和Matrix相乘的時候,你的矩陣每一個Column合起來就是Vector Set,你乘上去的那個Vector就是Coefficient。
link |
好,那所以現在呢,我們剛才說,我們今天在這門課要討論的問題是,AX等於B,它有沒有解?
link |
或者是說,有沒有解這件事,等同於問說,它的Solution Set是不是Empty,也等同於問說,這一個System of Linear Equations它是不是Consistent的。
link |
這都是講的是同一件事,只是說用不同的方式來陳述它而已。
link |
那這件事情等同於什麼呢?這件事情其實等同於問說,B是不是A的Column的Linear Combination。
link |
就我們本來說我們要討論的問題是,AX等於B是否有解,在給定A跟B的情況下,你是否能夠找到一個X。
link |
這件事情等同於問說,B是不是A的Column的Linear Combination。
link |
所以上面這些有沒有解的陳述,跟B是不是A的Column的Linear Combination,它是一模一樣的,我們講的是同一件事情。
link |
接下來就是舉三個例子,看看根據Linear Combination的概念,你怎麼判斷說一個System of Linear Equations是否有解。
link |
這邊有一個非常簡單的System of Linear Equations,當然你可以用高斯消去法算一算,你就知道它有沒有解。
link |
或者是說你可以把第一個Equation跟第二個Equation當作兩條直線,把它在二維平面上畫出來,你也會知道它有沒有解。
link |
但是我們今天要從Linear Combination的角度,雖然這個問題很簡單,這是你高中會的東西,但是我們用Linear Combination的角度來看說,它到底有沒有解。
link |
那我們知道說,這個System of Linear Equations,它可以寫成右邊的矩陣跟向量的相乘,它的矩陣A長這樣3624,它的X就是X1、X2,它的B就是34。
link |
接下來我們要問的問題就是,這個B是不是A的Column,A有兩個Column,A的Column是兩個Vector,是一個兩個Vector所組合成的Vector Set,B是不是這兩個Vector的Linear Combination。
link |
我們這邊用圖示的方法來想這個問題,我們的Vector Set是32跟64,那我們現在把這兩個Vector畫在二維的平面上。
link |
當然,未來你要解更高維的問題的時候,你沒有辦法把它畫在二維的平面上,但我們現在先討論比較低維的,你高中學過的東西,我們把它畫在二維的平面上,
link |
所以它跟你高中的時候看待同樣的問題的觀點是不一樣的。32這個Vector,我們把它畫出來長這個樣子,64這個Vector,把它畫出來長這個樣子。
link |
64這個Vector是32這個Vector的長度的兩倍,它跟32這個Vector是平行的,34這個Vector,如果你把它畫起來的話,看起來像是這個樣子。
link |
如果你用32跟64這兩個Vector做Linear Combination,Linear Combination的結果,你把32跟64用任何的coefficient做Linear Combination,
link |
它所得到的結果都一定落在這一條虛線上,一定都落在跟32、64平行的這一條虛線上。
link |
那如果34這個Vector,它並沒有落在這個虛線上,那它就不是32、64這個Vector Set的Linear Combination,所以這一個System of Linear Equation,它是沒有解的,這是第一個例子。
link |
那這個第二個例子是說,我們有另外一個System of Linear Equation,它的A跟X跟B分別寫成這樣。
link |
那我們要問一樣的問題,現在這個System of Linear Equation是否有解呢?
link |
它是否有解這個乘數,等同於說A的Column所乘的Vector的集合,A就是2331,所以它有兩個Vector。
link |
這兩個Vector所乘的一個Vector Set,它做Linear Combination,能不能夠產生B這個Vector?
link |
B這個Vector是否在A的Column的Linear Combination的這個結果中?
link |
那這邊就看一下,我們就把A的Column畫出來,那A的Column,我應該要寫在左邊,A的Column就是2331這兩個Vector。
link |
它把23畫出來,把31畫出來,那41這個Vector,B這個Vector,是否可以用2331做Linear Combination來得到呢?
link |
那你可以想一下就會發現說,這件事情是可以做到的,你把31乘上兩倍,你把23乘上-1,你把31乘上兩倍,23乘上-1,再把它們加起來,得到的結果就是4-1。
link |
所以B是A的Column的Linear Combination,所以這個System of Linear Equation它是有解的。
link |
那接下來呢,更進一步告訴大家說,如果現在有兩個Vector,U跟V,它們是二維的向量,它們是二維的向量。
link |
它們是二維向量,如果它們不是平行的,那它們的Linear Combination就可以掃過整個二維向量的空間。
link |
也就是說所有的二維的,也就是說如果你有兩個Vector,它們不是平行的,它們做Linear Combination可以組合出所有的二維的向量。
link |
那所謂不是平行的意思,我想這個也非常直觀。如果兩個Vector,U跟V,它們不是Zero Vector,然後現在U又不等於C倍的V的話,我們就說U跟V不是平行的。
link |
所以現在有兩個Vector,U跟V,你把它們做Linear Combination以後,它們得到的結果可以掃過整個二維的空間。
link |
就沒有人可以逃掉,只要在二維空間裡面的Vector,都可以用U跟V組合出來。
link |
U跟V做Linear Combination以後,它得到的結果可以掃過整個二維的空間。
link |
那這就告訴我們什麼呢?這就告訴我們說,假設給你一個System of Linear Equations,給你一個它的這個Column是二維的Vector,
link |
它的這個Matrix A的Column呢,是二維的Vector,而這兩個Vector呢,它們不是平行的。
link |
那這個System of Linear Equations,不管你右邊的B呢,你的這個Constant Term帶什麼,它都一定是有解的。
link |
那我們知道說,我們現在知道說,在二維空間中的兩個非平行的Vector,它做Linear Combination以後,一定可以表示任何的Vector。
link |
那接下來,我們是不是可以進一步推廣到,如果在三維的空間中,我們有U、V、W三個非平行的Vector,
link |
那是不是可以用U跟V跟W做Linear Combination以後,變成三維空間中的任何的Vector呢?
link |
這個呢,給大家三秒鐘的時間想一下。你想想看,如果是二維空間中,兩個非平行的Vector可以掃過整個二維空間,
link |
那三維空間中是不是三個非平行的Vector就可以掃過整個三維的空間呢?你覺得可以的同學舉手一下。
link |
有些同學覺得可以,好,手放下。你覺得不可以的同學舉手一下。又有些同學覺得不可以,好,手放下。
link |
好,我們來看看到底可不可以。這邊我們在投影片上有一個二維的空間,那你在投影片上很難畫出三維的空間,
link |
我幫你勉強畫一下。這個是你的Z座標,這個是你的Z座標。
link |
好,那現在我們找三個非平行的Vector,UV是非平行的,我們現在畫第三個Vector,它是W。
link |
這個W呢,它落在XY的平面上,它落在XY的平面上,W、U跟V它們不是平行的。
link |
但是你拿這三個Vector做linear combination,得到的結果通通都落在XY的平面上,你做不出任何一個Vector,它的Z座標不是零的。
link |
所以當你有三個非平行的Vector的時候,你沒辦法掃過三維的空間。
link |
在二維的時候,兩個非平行的Vector可以掃過整個二維的空間,但是三個非平行的Vector在三維空間中是掃不了整個三維的空間的。
link |
所以顯然用是不是平行來決定說一組Vector能不能夠掃過整個空間是不夠的。
link |
所以未來其實在下一頁投影片裡面,我們就會提到一個independent的概念。
link |
就如果今天這三個Vector它們是independent的,那它可以掃過整個三維的空間。
link |
但事實上,現在在這個圖上舉的例子,U、V跟W,它們不是independent,雖然它們沒有平行,但是它們不是independent,它們是dependent的。
link |
那這個時候它掃不過三維的空間,那這個是下一份投影片會告訴大家的事情。
link |
我們剛才學到說,如果U跟V是非平行的,那它一定有解,但是反過來是否有解保證推得U跟V一定是非平行的呢?
link |
還是說有時候平行的狀況下,它仍然有可能是有解的呢?
link |
不然我們來問一下大家的意見好了。你覺得這一個箭頭,有解保證推得U跟V一定是非平行的,同學舉手一下。
link |
你覺得這一個乘數不成立的同學舉手一下。好,請放下。所以大家都覺得說它是不成立的,那我們來舉一個例子說它是怎麼個不成立法。
link |
那現在有一個system of linear equations,它所對應的matrix A,X跟B,我們都把它寫出來了。我們要問它有沒有解,那這個我們已經今天提第N遍了,它有沒有解的意思就是說,這個matrix A的column做linear combination以後有沒有可能得到B。
link |
那我們就把matrix A的column在二維的空間做出來,我們說這個matrix A開的column就是兩個2 1 6 3,我們把2 1 6 3畫出來,2 1 6 3正好是平行的,6 3是2 1的三倍長,它們是平行的。
link |
那今天2 1 6 3它做linear combination以後有沒有可能得到-4 2呢?是有可能得到-4 2的,因為-4 2正好在2 1 6 3做linear combination所可以得到的這個集合的這條線上。
link |
2 1跟6 3做linear combination的時候,它們所得到的vector一定落在跟它們平行的這個虛線上,但是4 2,就你的這個constant term,正好落在這個虛線上,所以它是有解的。
link |
如果你今天的constant B沒有落在這條虛線上,我隨便畫一個vector,隨便畫一個vector B,當你的這個B是這樣子的時候,那你就是沒有解的。
link |
如果你的這個column的兩個vector,它們是非平行的,一定有解,但是就算它們是平行的,還是有可能會有解的。
link |
接下來要跟大家講的下一個觀念叫做span,span的意思是說,今天你有一個vector set U1到Uk,那你把這個vector set U1到Uk做linear combination。
link |
你把它做linear combination以後,所有做linear combination可能得到的vector,集合起來就叫做這個vector set的span。
link |
或者是你用比較數學化的方式來表示它,就是說你有一組vector U1到Uk,現在你窮取所有可能的coefficient C1 C2到Ck,那你就可以組出各式各樣不同的vector。
link |
你把所有你可以組出的vector,通通集合起來,得到一個很大的集合,這個很大的集合,我們寫做span S。
link |
所以本來S是一個vector set,你現在把S這個vector set做span這件事,你就直接寫span S,那span S它是一個新的vector set,那這個vector set非常非常大。
link |
這個vector set通常會有無窮多的向量在裡面,它通常會有無窮多的element在裡面,這些element它們是怎麼來的呢?
link |
這些element就是把原來S裡面的這k個vector U1到Uk做linear combination,把原來S裡面的這k個vector U1到Uk做linear combination,
link |
得到更多的vector,把所有linear combination可以得到的結果,通通集合起來,就變成一個非常大的set,這個非常大的set,我們叫做span S,我們叫span S。
link |
那今天假如有一個vector set V,它正好就等於span S,那我們就說S這個vector set是這個很大的vector set S的,剛才講錯了,這個很大的vector set V的generating set。
link |
或者是說S它generate V,我們會說這個S,如果把S做span的結果正好等於V這個set的話,我們就說S是V的generating set,或者我們會說S生成了V這個set。
link |
那今天我們可以把S當作是來描述V的特性的一個方法,因為像這一種很大的vector,它通常有無窮多的element在裡面,
link |
你可以找到一個例外,等一下會講說那個例外是什麼,它通常有無窮多的element在裡面,所以你要描述它的時候,你不好描述它,你沒有辦法把裡面所有的element統統都列舉出來。
link |
所以你要描述這種有無窮多的element的vector set的時候,你就可以用乘數它的generating set的方式來告訴大家說這個vector set長什麼樣子。
link |
你告訴別人說這個vector set是由什麼樣的generating set generate出來的,別人就可以想像說這個無窮大的vector set長的是什麼樣子。
link |
我們這邊就是舉幾個例子,我們現在有一個vector它叫做零零,我們這個vector set它裡面就只有zero vector,那我們把這個vector set做span,
link |
我們有一個vector set S0,我們把S0做span以後,我們會得到什麼樣的結果呢,我們得到的新的vector set span S0,它裡面也只有一個element,
link |
因為你把零零乘上任何的coefficient C1,得到的結果仍然是零零,所以做完span以後,並不永遠都會得到無窮多的vector,
link |
就是把一個vector set做完span以後,新的vector set不見得永遠都有無窮多的vector,在這個case裡面,它仍然只有一個member。
link |
我們再舉另外一個例子,現在你有一個vector 1跟-1,你有一個vector set,裡面就只有一個element,這個element就是1跟-1,
link |
那你把這個vector set S1做span以後,你得到的結果會是什麼樣子呢,你得到的結果會是,你把1-1這個vector在二維空間中畫出來,
link |
那把這個vector跟另外一個coefficient C1做相乘以後,你得到的結果是,這一條黑色的直線上面的任何的vector,
link |
今天這條黑色的線上面的任何的vector,都可以用這一個1-1這個vector,乘上一個coefficient C1以後得到。
link |
所以今天你把S1做span以後,你得到的新的vector set span S1,就是在這條直線上面所有vector所形成的集合,這個集合的數目就會是無窮多的。
link |
那事實上,如果今天在一個vector set裡面,它有非0的vector,那你把這個vector set做span以後,你會有無窮多的vector。
link |
那這邊是更多的例子,我們剛才已經看說,如果把1跟-1做span以後,你得到的vector set是這一條黑色的直線。
link |
那我們現在有另外一個vector set S2,它裡面有兩個element,分別是1-1跟-2,我們把這兩個vector拿去做span以後,得到的vector set span S2長什麼樣子呢?
link |
1-1在這個地方,-2-2在這個地方,你把它們做linear combination,你把1-1乘上各種不同的C1,你把-2-2乘上各種不同的C2,把它們做linear combination以後,得到的結果也會落在同一條黑色的直線上。
link |
所以這個例子是要告訴我們說,span S1等於span S2,你把S1這個vector set拿來做span以後得到的結果,跟把S2這個vector set拿來做span以後得到的結果是一模一樣的,它們span以後得到的集合是一模一樣的。
link |
所以就算是兩個vector set,它們裡面的vector數目不一樣,它們做span以後,仍然有可能得到一樣的vector set。
link |
好,那接下來呢,剛才看的例子是你的vector set裡面有一個vector,有兩個vector,那接下來呢,看一個vector set裡面有三個vector的例子,那我們把這個vector set裡面的三個例子呢,在二維的空間中畫出來。
link |
那把這個vector set S3做span以後得到的大的vector set長什麼樣子呢?這個大的vector set其實就是整個二維空間中所有向量所乘的集合。
link |
所有二維空間中二維向量所乘的集合,我們上週講過說這個東西叫做R2,所以今天呢,把S3這個vector set做span以後,得到一個新的大的vector set,它就等於R2。
link |
那剛才已經講過說,如果今天有兩個不是平行的vector在二維空間中,它們linear combination的結果就可以掃過整個二維空間。所以,今天其實你拿這兩個vector組成一個vector set,它們做span以後,其實就已經等於R2了。
link |
所以其實不需要加這個vector,它們做span以後,就已經等於R2了。那這邊是更多的例子啦,我們現在用這三個vector做span以後可以等於R2,那現在再多加一個新的vector-E3,它做完span以後仍然是等於R2。
link |
接下來,你不管再加多少的vector進去這個vector set裡面,你再加多少的vector進去這個vector set裡面去做span,得到的結果仍然都是R2。
link |
那這邊是更多的例子,我們來講一下這個standard的vector,我們說standard的vector就是其中一維是1,其他都是0。那E1代表第一維是1,E2代表第二維是1,E3代表第三維是1。
link |
那如果你把E3這個vector,就假設一個vector set裡面只有E3這個vector,你把它做span的話,那你得到的就是所有落在Z軸上的vector。
link |
那如果你把E1跟E2拿去做span的話,那你得到的結果就是整個XY的平面。那如果你現在把E1、E2、E3三個vector拿去做span的話,其實你就可以掃過整個三維的空間。
link |
所以你也可以說,span E1、E2、E3,你把這三個vector全部集合起來,拿去做span的話,那你其實就等於R3。
link |
那如果你今天在三維空間中找了兩個非平行的vector U跟V,把它們拿去做span的話,你就可以掃出一個平面。
link |
那這個都非常直覺。那有了span這個概念以後,我們剛才的有關有沒有解的這個陳述,我們又可以換一個說法。
link |
那其實今天你學到的就是不斷地換句話說,其實也沒真的教你說怎麼確定說這個vector set做linear combination以後,也沒有教你說怎麼真的檢驗它有沒有解。
link |
那我們今天就是不斷地學習換句話說,有沒有解這件事情,等於B是不是A的linear combination,也等於B是不是在A的column的span裡面。
link |
A的column所乘的集合,你把它拿去做span這件事,得到一個新的vector set,我們把它這個誇起來說,這個新的vector set,column A所做span以後得到新的vector set,叫做V。
link |
那B有沒有在這個span以後得到的結果,有沒有在這個大V裡面呢?如果有的話,代表這個system of linear equation它是有解的,如果沒有的話,就代表它是沒有解的。
link |
好,所以今天這一份投影片,在下課之前,我們等一下再看一下另外一份投影片的開頭。
link |
今天在這份投影片裡面,我們要告訴大家的事情是什麼呢?我們要告訴大家的事情是說,檢驗一個system of linear equation有沒有解,等同於問下面這兩個問題,
link |
等同於問說,B是不是A的column的linear combination,等於問說,B是不是在A的column做span以後所形成的vector set裡面,如果是的話,代表有解,如果不是的話,就代表沒有解。