back to index

Linear Algebra Lecture 19: Basis


link |
00:00.000
整理&字幕由Amara.org社區提供
link |
00:31.000
講完了Subspace,上一堂課的重點就是Subspace的定義,你就是要知道Subspace是什麼,知道這件事情就好了。
link |
00:38.500
那接下來呢,Subspace裡面有一個東西叫做Basis,這個Basis就是這個基礎支撐的意思,整個Subspace是由Basis所生成的。
link |
00:55.500
好,那所以今天這個投影片要講的事情有兩件事,第一個事情就是說,什麼是Subspace的Basis,這是第一件事情。
link |
01:05.000
第二件事情就是說,怎麼檢查一個東西是不是一個Subspace的Basis,那了解這個東西以後,我們了解是什麼東西支撐了一個Subspace,之後這個Subspace裡面的成員就會用那些Basis來描述它。
link |
01:24.500
那一個Subspace會有各種不同的Basis,它可以有各式各樣的Basis,無窮多的Basis,用不同的Basis來描述Subspace裡面的成員,同一個成員就會有不同的名字,就會有不同的樣子。
link |
01:38.500
好,那Basis這個東西是對應到課本的4.2,好,那什麼是Basis呢?Basis它是,假設我們現在有一個vector set V,這個vector set V它是一個Subspace,這個Subspace是non-zero的Subspace,這邊要強調一下是non-zero的Subspace。
link |
02:03.500
一個vector set V,這個V是一個vector set,那Basis是一個vector set,一個vector set V它是V的basis,如果這個vector set滿足下面兩個條件,第一個條件是,這個vector set它是一個linear independent vector set,這是第一個條件。
link |
02:31.500
第二個條件是,這個vector set它可以generate V,也就是說你把這個vector set B做Span,會等於V,也就是說你可以用這個vector set去generate V。
link |
02:56.500
如果這個vector set滿足我們這邊講的這兩個條件,那麼它就是V這個Subspace的basis。
link |
03:03.500
所以一個Subspace的basis滿足兩個條件,一個是它是independent的,第二個是它是這一個Subspace的generation set,它做Span以後可以產生這個Subspace。
link |
03:16.500
這邊就舉一個例子,Rn,n為向量,所有n為向量所組成的vector set,我們知道它是一個Subspace,這個Subspace有一個basis,這個basis是n個standard vector所成的集合,就是Rn的basis。
link |
03:41.000
可以見得n個vector所成的集合,就是Rn的basis,你就用basis的定義去檢查。
link |
03:47.300
第一個,檢查這n個vector是不是independent的,顯然這n個standard vector它們是independent的。
link |
03:56.500
我想這應該就不用詳加解釋吧,你沒有辦法用一些independent的vector做linear combination,然後產生另外一個independent的vector。
link |
04:05.900
所以這n個standard vector它們是independent的。
link |
04:11.100
再來,這n個standard vector它們顯然是可以generate出Rn的,你把這n個independent vector做各種不同的linear combination,可以製造出Rn裡面所有的vector。
link |
04:25.900
所以n個standard vector所成的這個集合,它滿足basis的兩個條件,所以它是Rn的basis。
link |
04:35.900
所以我們來舉一個具體的例子,舉例來說,如果我們現在考慮的是二維向量所形成的Subspace R2,
link |
04:43.700
R2這個Subspace它有一個basis,這個basis就是1001這兩個vector所形成的集合。
link |
04:53.000
因為1001這兩個vector它們顯然是independent的,所以滿足第一個條件。
link |
04:59.200
1001這兩個vector顯然它們做了Span以後,它們做各種不同linear combination以後,可以產生出R2這個向量空間。
link |
05:09.200
所以第一個條件跟第二條件都是成立的,所以顯然1001這一個vector set它是R2的basis。
link |
05:17.900
那R2其實不只1001這個basis,你如果仔細想想看的話,它還有很多其他的basis。
link |
05:25.700
舉例來說,111-1是一個basis,這個13-31是一個basis,1112也是一個basis。
link |
05:34.100
它們之所以是R2的basis,是因為它們滿足了basis的上面兩個條件,也就是這兩個vector,這兩個vector,這兩個vector,它們都是linear independent。
link |
05:45.000
那比較難一眼看出來的是說,這些vector set它們都可以變出R2,這個是比較難看出來的,這個我們之後再說明。
link |
05:56.100
那事實上對R2來說,所有的,只要有兩個independent vector,它都是R2的basis。
link |
06:10.100
那我們說什麼是basis呢?basis的意思就是說,假設有一個subspace叫做V,這個subspace它有一個basis B,如果B滿足下面兩個條件的話。
link |
06:25.300
B它是一個linear independent vector set,然後它是V的generation set,也就是用B做span以後,你可以得到V,這個是我們上週二,禮拜三的時候講的內容。
link |
06:43.800
好,那我們這邊就來舉一個有關basis的例子,那假設你現在有一個matrix,我們叫做A。
link |
06:56.300
我們之前有講過說,matrix有一個column space,就是你把matrix的column拿出來做span,拿出來做各種linear combination,你會得到一個column space,我們寫作COLA,代表A的column space。
link |
07:16.300
那這個column space有一個basis,有一個basis是什麼呢?有一個basis就是,這個column A有一個basis,就是A這個matrix的private column,A這個matrix的private column是column space的basis。
link |
07:39.800
那以下呢,我們就來檢查看看,為什麼A的private column會是A的column space的basis。
link |
07:47.800
好,那首先呢,這個basis的,成為一個basis的條件是什麼?成為一個basis的條件是,這一個vector set裡面的成員是linear independent。
link |
08:03.300
那private column是linear independent的嗎?private column是linear independent的,對不對?
link |
08:11.300
因為我們之前有講過說,在講reduce row hreform的時候講過說,有一個東西叫做column correspondent theory,做reduce row hreform之前跟做reduce row hreform之後,column的關係是固定的。
link |
08:27.300
那做完reduce row hreform之後呢,那些private column都是independent的,所以在做reduce row hreform之前,這些private column也都是independent。
link |
08:38.300
所以private column滿足basis的第一個條件。
link |
08:43.300
好,那第二個條件是說,private column能不能夠generate整個column space呢?
link |
08:50.300
如果你今天把所有的column做linear combination,得到一個column space,private column做span以後,能不能夠成為column space呢?
link |
09:00.300
private column做span以後是可以成為column space的,怎麼說呢?
link |
09:05.300
因為我們知道說,不是private column的那些column,都是private column的linear combination。
link |
09:17.300
我們這個之前已經講過了,這個例子裡面的第二個column是第一個column的linear combination,第五個column是一三四的linear combination,最後一個column也是一三四的linear combination。
link |
09:29.300
既然今天這個column裡面,那些non-private的column,都是private column的linear combination,那你拿private column出來做span,跟加上這些不是private的column出來做span,它的大小是一樣。
link |
09:48.300
所以知道說,用private column做span以後,會等於column的matrix的span,用private column做span以後,會等於matrix A的column space。
link |
10:01.300
在繼續講這個basic之前,我們先講一些非常trivial的觀念。那這些觀念非常trivial,我們就不做證明,你一看就會知道說,這些定理都是對的。
link |
10:26.300
首先,vector set S一定包含在span S裡面,這些基礎的觀念是我們等一下要拿來證明有關basis的種種性質用的。
link |
10:40.300
一個vector set S,如果你把它做span,那S會在span裡面,那這個就沒有什麼好說的,反正就是這樣子。
link |
10:51.300
所以我們知道一件事情就是,因為basis做span以後會等於整個subspace,所以一個subspace的basis一定落在subspace裡面,它不會在subspace之外。
link |
11:09.300
如果你有一個vector set S',它包含在span S這一個subspace裡面,那你把S'也去做span,它一定包含在span S裡面。
link |
11:27.300
為什麼呢?假設你有一個vector set叫做span S,這個span S它是S這個vector set的span,所以它是一個subspace。
link |
11:39.300
那在這個subspace裡面,找一些vector出來,這些vector我們叫它S',這些綠色的點我們叫它S',然後你再把S'去做linear combination,
link |
11:52.300
你再把這個S'去做span,你會發現S'span以後的結果一定會落在S的span裡面,那這個結果是非常直覺的,因為我們知道說span S它是一個subspace,
link |
12:06.300
而subspace有addition clause跟multiplication clause的特性,所以subspace裡面的成員做linear combination仍然在subspace裡面。
link |
12:22.300
所以今天這些S'裡面的成員,不管怎麼做linear combination得到span S',一定都落在span S裡面。
link |
12:32.300
所以我們知道說,把一個subspace裡面的成員拿出來做span,它仍然在這個subspace裡面。
link |
12:40.300
好,那接下來呢,假設你有一個vector Z,如果這一個vector Z它包含在span S裡面,那你把Z加到S裡面再去做span,
link |
12:59.300
那你會發現說,加Z之前跟加Z之後span以後的大小是一樣的,也就是說加上Z以後並沒有增加什麼,也沒有減少什麼。
link |
13:12.300
反過來也是一樣,假設有一個vector Z,你發現說把這個Z放到S裡面,沒有增加什麼,也沒有減少什麼,那就代表說Z在S的span裡面。
link |
13:26.300
所以這個是一個弱且微弱的關係。
link |
13:33.300
或者是你可以反過來說,假設Z不在S裡面,不是Z不在S裡面說錯,是Z不在S的span裡面。
link |
13:48.300
那如果Z不在S的span裡面,把Z加到S裡面再去做span,那得到的set就會不一樣。
link |
13:58.300
或者是我們用圖像化的方式再說明一下,這邊有一個vector set S,它做完span以後得到span S,span S是這個藍色的圈圈。
link |
14:13.300
那現在假設我們找到了一個vector Z,這個vector Z落在藍色的圈圈裡面,我們把Z加到S裡面再去做span,這個藍色的圈圈不增也不減,它不會變大也不會變小。
link |
14:28.300
但是如果我們今天找到一個vector Z它落在藍色的圈圈之外,再去做span,那藍色的圈圈就會變大了,span以後的結果就會變大。
link |
14:42.300
這個也不用證明,太直覺了,所以不用證明。
link |
15:12.300
因為這些private column它們都是linear independent的,所以如果你少了其中一個,那今天你在做column space的時候是有包含那個少掉的private column的,而其他private column做linear combination並沒有辦法變成你少掉的那個private column,所以private column是缺一不可的。
link |
15:42.300
這樣大家還有問題嗎?可以齁。
link |
15:47.300
好,那接下來就要講basis的三個重要定理,這三個定理是這樣子的,basis是最小的generation set,一個subspace可以有很多不同的generation set,但裡面最小的那個就是basis。
link |
16:09.300
然後再來呢,basis又是最大的independent set,就是你從一個subspace裡面可以選出很多vector組成一個independent set,你從一個subspace裡面可以挑出很多不同的vector set,它們都是independent的。
link |
16:24.300
但在這些挑出來的vector set裡面,最大的那個就是basis,這樣大家可以了解我的意思嗎?這個聽起來還蠻有趣的,就是basis是最小的generation set,但它卻是最大的independent set。
link |
16:42.300
好,那第三件事情呢,是一個subspace它可以有無窮多的basis,有很多不同的independent vector set,它做generation以後都可以變成某一個subspace。
link |
16:59.300
但是所有同一個subspace的basis,它裡面的vector的數量都是一樣多的。同一個subspace,它可以有很多個basis,但那些basis裡面的vector的數量都是一樣多的。
link |
17:16.300
而這個vector的數量呢,就叫做dimension。這個vector的數量呢,就叫做dimension。所以如果有人說,今天我有一個subspace,這個subspace的dimension呢,舉例來說是3,那是什麼意思?
link |
17:33.300
就是說這個subspace的basis,它都有三個vector。好,那今天就講了這個subspace的三個定理,那接下來有關basis的三個最重要的定理。
link |
17:52.300
那等一下呢,剩下的時間就是要告訴大家說這三個定理是怎麼來的。那這三個定理123的順序呢,就是按照課本裡面的順序排列的啦,但是我打算先證明第三個。
link |
18:07.300
好,第三個定理是說,同一個subspace,它所有的basis,它的vector的數量都是一樣多的。好,怎麼說呢?今天呢,我們假設某一個subspace V,它有兩個basis,一個是U1到UK,一個是W1到WP。
link |
18:31.300
我們現在還不知道說這兩個subspace,它們的數量是不是一樣。也就是說我們並不知道說K會不會等於P這樣子,我們並不知道K會不會等於P,我們先打一個問號。
link |
18:46.300
它們有可能等於,有可能不等於,當然按照這個定理應該是等於的,不過這個就是我們今天要證明的事情,所以我們現在還不知道K是不是等於P。
link |
18:56.300
我們只知道說現在有兩個basis,也就是這個subspace V有兩個basis,那當然這兩個basis都滿足basis的兩個條件,也就是說它們都是independent vector set,然後再來呢,你把U1到UK去做span它會等於V,W1到WP去做span它也會等於V。
link |
19:21.300
好,那接下來呢,我們就是要來證明一下K會等於P這件事。
link |
19:27.300
那我現在把U1到UK當作是某一個matrix的column把它排起來,那我們就得到了matrix A。
link |
19:36.300
我們把W1到WP當作某一個matrix的column排起來,那我們就得到了matrix B。
link |
19:44.300
好,那接下來呢,你會發現說這個matrix A跟matrix B的column之間是有某種關係的,什麼樣的關係呢?
link |
19:54.300
因為現在U1到UK它去做span以後會得到V,因為U1到UK是V的一個basis,所以它做span以後會得到V。那我們知道說,B或者是W1到WP它是一個basis,它是V的basis。
link |
20:17.300
所以現在每一個W,我們這邊寫做Wi,它一定落在V裡面,Wi一定是屬於V的。
link |
20:28.300
因為我們剛才已經有講過說,一個basis裡面的成員一定落在它generate出來的subspace裡面,basis一定落在subspace裡面。
link |
20:39.300
所以Wi一定落在V裡面。所以現在根據這兩件事,第一件事情是U1到UK可以spanV,Wi一定又落在V裡面。
link |
20:50.300
所以U1到UK做linear combination一定可以產生Wi。
link |
20:56.300
好,U1到UK做linear combination一定可以產生Wi這件事情,如果你列成式子的話,長成這個樣子。
link |
21:04.300
對所有的Wi來說,你把U1到UK做linear combination,意思就是把這個matrix A乘上某一個vector我們叫做CK,
link |
21:30.300
把matrix A乘上某一個vector叫做CK,它會等於Wi,對所有的i都是成立的。
link |
21:38.300
好,那這個i可以是1,可以是2,可以到P,可以是1,可以是2,可以到P。
link |
21:44.300
那我們就把這P的式子通通都列出來,所以我們知道說A乘上C1會等於W1,A乘上C2會等於W2,A乘上CP會等於WP。
link |
21:56.300
也就是A乘上,我們把C1到CP合起來,說它叫做一個matrix C,所以A乘上matrix C會等於matrix B,我們現在有了這個式子。
link |
22:08.300
好,我們現在都還不知道說K會不會等於P,我們只知道說A乘上某一個matrix C,它會變成B。
link |
22:17.300
好,接下來我們做一個假設,假設CX的假設呢,有某一些X它跟C相乘以後一定會是0,某一些X跟C相乘以後一定會是0。
link |
22:34.300
那這個假設永遠都成立嗎?這個假設永遠都成立,為什麼?
link |
22:38.300
因為最糟的情況下X就是zero vector,所以你一定找得到一些X跟C相乘會是0,最糟的情況下這個X就是只有zero vector可以滿足這件事情。
link |
22:50.300
好,那因為X乘上C會等於0,所以你現在呢,把這個AX等於B這個式子左邊乘上X,右邊也乘上X,你就會發現說呢,A乘C乘X等於B乘X等於0。
link |
23:08.300
因為X乘上C這個東西是0嘛,所以0乘上A也等於0,所以B乘上X也會等於0。所以這個告訴我們什麼?這個告訴我們說,如果某一個X它在C的null space裡面,某一個X它在C的null space裡面,因為X乘上C等於0嘛,它一定也會在B的null space裡面。
link |
23:36.300
對不對?就是說,如果X乘上C等於0,那X乘上B也會等於0,所以C的null space是包含在B的null space裡面的。
link |
23:46.800
好,接下來我們看一下B的null space長什麼樣子,因為B呢,它是一個basis所構成的matrix,B是一個basis所構成的matrix,所以B的column都是independent的,B的column都是independent意味著什麼?
link |
24:01.300
意味著它的null space裡面只有一個成員就是zero vector,這個大家應該知道吧,這個我們可能已經講過很多次了,如果B是independent的,B的column是independent的,那它的homogeneous equation唯一的解就是zero vector。
link |
24:19.300
所以B的null space就是zero vector,所以我們發現說這個藍色的區域居然是等於zero vector的,那C的null space還包含在zero vector裡面,還包含在只有zero vector所構成的集合裡面,所以C的null space一定要等於0。
link |
24:45.300
所以我們知道說C的null space也是一個只有zero vector的集合,那所以告訴我們說C這個matrix它的column都是independent的,所以正到這邊我們還沒有說k等於p,我們只知道說C的column都是independent。
link |
25:04.300
再來我們看一下C長什麼樣子,C這個matrix,我們來看一下它的寬跟高分別是多少。
link |
25:15.300
C這個matrix它的寬是p,還有p的column,它的高應該是k,所以它的一個dimension是p,一個dimension是k。
link |
25:39.300
一個dimension是p,一個dimension是k,它的這個它是k乘以p的matrix,k跟p就是顆p這樣子,這個太冷了,不好意思。
link |
25:51.300
所以我們現在知道說C是一個k乘以p的matrix,k乘以p的matrix如果你希望它的column是independent的,那一定要發生什麼事呢?一定要p小於等於k才能夠做到。
link |
26:12.300
對不對,我們說一個矮胖型的matrix,如果p是矮胖的matrix,像我們這邊畫的這樣,那它的column就一定不會是independent,它的column一定是dependent。
link |
26:24.300
你希望它的column一定是independent的,那唯一的可能就是C必須要是高瘦的,高瘦也不見得保證會independent,但是如果是矮胖一定會dependent。
link |
26:37.300
矮胖一定會dependent,所以C必定要高瘦,C必定要高瘦的意思是說p小於等於k,我們現在知道p小於等於k,但是我們還沒有證p等於k。
link |
26:48.800
接下來,你就把剛才講過的事情反過來再說一次,這樣了解我們意思了嗎?我們把U1到Uk跟W1到Wp的角色調換過來,用一模一樣的乘數,但是把A跟B的角色調換過來,我們就不要再反覆講一樣的東西。
link |
27:14.300
然後這個時候你會發現說k要小於等於p,所以既然p要小於等於k,k也要小於等於p,那你得到的結論就是k要等於p。
link |
27:24.800
所以今天一個vector space裡面如果有兩個basis,那這兩個basis的成員必定是一樣多的,那你可以用這個basis的成員的數目來描述一個subspace的特性。
link |
27:39.300
有幾個basis,有幾個成員,這個subspace的dimension就是多少。
link |
27:48.660
我們在講basis的時候,我們不討論zero的subspace,zero的subspace它的dimension就強制定義為零,你就當作這個是個定義就好。
link |
28:02.960
那如果今天是二維的空間R2,它的dimension是多少呢?我們知道二維的空間R2,它可以由兩個standard vector做linear combination所generate出來。
link |
28:18.000
它可以由兩個standard vector,一個是一零,一零就是蔡一零這樣子,一個是一零,一個是零一這樣子,一個是一零,一個是零一,做linear combination可以得到整個二維的空間。
link |
28:38.160
然後呢,一零零一兩個standard vector又是independent的,所以一零零一這兩個standard vector,一萬一二,它們是R2的basis。
link |
28:51.780
那既然這個二維的空間,二維的向量所成的集合,它的basis是二,那它的dimension就是二。那其實這就是為什麼我們說所有的有兩個element的向量所組成的集合叫做二維空間,因為它的dimension是二,所以叫做二維的空間。
link |
29:13.900
那三維空間就是一樣的,你有三個standard vector,一萬一二一三,做linear combination,可以span整個三維的空間,可以generate整個三維的空間,那三個standard vector又是independent的,所以一萬一二一三是三維空間的basis。
link |
29:29.380
那這個basis裡面有三個成員,一萬一二一三,所以三維空間的dimension就是三。所以,以此類推,n維空間的dimension就是n,然後n維空間的basis都是n個vector。
link |
29:44.880
那這邊是舉一個例子,就是假設我們現在有一個subspace,這個subspace它在四維的空間裡面,它不是四維的空間,它在四維的空間裡面。那這個subspace,這個裡面的vector,它的四個dimension,四個element都符合這個式子。
link |
30:06.080
那現在來算一下這個subspace它的dimension是多少。好,那這個subspace的dimension是多少呢?你要做的事情就是首先找出這個subspace的basis,一旦找出它的basis,你就找出了它的dimension。
link |
30:25.840
好,那它的basis是多少呢?我們就是要找,如果今天你遇到的問題是說,你的basis是由一個system of linear equation所定義的。
link |
30:40.140
如果不是你的basis,是你的subspace,是由一個system of linear equation所定義的。如果你subspace是由一個system of linear equation所定義的,那你把這個system of linear equation的解把它算出來,你就可以得到它的basis。
link |
30:59.720
好,那我們今天知道說,上面這個式子可以寫成x1等於3倍的x2減5倍的x3加6倍的x4,那現在的x2、x3、x4都是free variable,只有x1是basic variable。
link |
31:18.160
那你就可以把這一個system of linear equation,只有一條式子的system of linear equation,它的解寫出來,它的solution,它的solution的parametric representation,你可以寫作這樣子。
link |
31:31.540
就x1等於x2、x3跟x4的linear combination,然後x2、x3、x4都等於它們自己,它們都是free variable,都等於它們自己。
link |
31:42.700
接下來,把x2、x3、x4提出來,那你就會知道說,x1、x2、x3、x4落在這個subspace裡面的每一個vector,都可以寫作是這樣子的形式,都可以寫作是這三個vector的linear combination。
link |
31:59.100
所以現在就知道說,這三個vector你拿去做generate,拿去做span,它會等於v。你把這三個vector拿去做span,拿去做span,拿去做span,它會等於v。
link |
32:17.880
那拿去做span以後會等於v,它是不是一個basis呢?你還要檢查basis的另外一個條件,basis的另外一個條件就是independent。這三個vector是不是independent的呢?
link |
32:29.940
那你仔細看一下,就會發現說,它們顯然是independent的。
link |
32:34.940
怎麼說呢?舉例來說,如果你看這三個vector的第二維,只有第一個vector有1,其他人都是0,看第三維只有第二個vector有1,其他人都是0,看最後一維只有第三個vector有1,其他人都是0。
link |
32:49.780
所以你沒有辦法用這個vector set裡面的某兩個vector做linear combination得到剩下的那個vector,所以它是independent。
link |
32:58.900
既然它是independent的,它又可以generate v這個subspace,那這三個vector合起來就是v的其中一個basis。
link |
33:08.140
所以現在就知道說v的dimension多少呢?v的dimension就是3。
link |
33:12.740
好,那這個是一個算dimension的例子。
link |
33:17.340
好,那接下來我們要講的事情是剛才提到有關basis的第一個定理。
link |
33:23.860
第一個定理是說,basis是最小的generation set,什麼意思呢?
link |
33:31.260
意思是說,假設你現在在某一個subspace中,你找出了這個subspace的某一個generation set,我們寫做s。
link |
33:41.060
那這個subspace v它的basis一定會比這個generation set還要小,所以一定會小於等於這個generation set。
link |
33:53.180
舉例來說,假設這個generation set有三個element,那這一個subspace v它的basis一定是小於等於3。
link |
34:09.140
它有可能等於3,但是不可能大於3,這個basis它的成員一定小於等於3。
link |
34:16.820
或者是你可以說,或者是你可以更進一步的推論說,假設今天有一個subspace v,它有一個generation set,裡面有三個element。
link |
34:29.580
那因為它的basis一定小於等於3,所以這個subspace的dimension一定會小於等於3。
link |
34:36.700
總之,如果你今天找出一個generation set,那subspace的element,subspace裡面的vector的數目,一定是小於等於你找出來的generation set,不可能大於你找出來的generation set。
link |
34:52.580
怎麼說呢?這邊有一個定理叫做reduction theory,reduction theory是說,所有的basis裡面都包含了一個generation set,所有的generation set裡面都包含了一個basis,也就是所有的generation set的心中都有一個basis。
link |
35:20.180
或者是更進一步的講就是,如果你有一個generation set,你可以把這個generation set去掉一些element以後,變成一個basis,所以一個generation set它是一個未完成的basis,你把一個generation set,每一個generation set的心中都有一個basis,你把它的外殼拿掉,它心裡就有一個basis。
link |
35:48.020
所以reduction theory告訴我們,下一頁就是要證一下reduction theory,reduction theory告訴我們說,所有的generation set心中都有一個basis,你把它的外殼拿掉,剖開來裡面就是一個basis,因為每一個generation set心中都有一個basis,所以basis的element的數目一定是小於generation set,basis都是藏在generation set裡面的,所以basis一定小於generation set,所以basis是最小的generation set。
link |
36:17.980
那這件事情怎麼證明呢?怎麼證說所有的generation set心中都藏有一個basis呢?這個證法是這個樣子的,現在假設有一個generation set,有一個vector set叫做U1到Uk,你拿它去做span以後,它會產生出subspace V,你把S拿去做span以後,它會產生subspace V。
link |
36:42.620
那先前要證的就是說,S的心中藏了一個basis,那怎麼證說S的心中藏了一個basis呢?你就從S裡面找出一個basis,你從S裡面找出一個subspace V的basis,就得證了,你就從它心中找出一個basis了。
link |
37:02.260
那怎麼做呢?我們知道說V等於span S,那如果我們現在把S裡面的每一個element,每一個vector當作是matrix A的每一個column,那我們又可以換句話說,V等於span S,就是V等於A的column space。
link |
37:22.740
那我們剛才要講說,matrix A的column space,它的basis是什麼呢?matrix A的column space,它的basis就是A的private column,對不對,我們剛才在上課的第二頁投影片就講過說,一個matrix,它的column space就是這個matrix的private column,那private column一定是column的一個subset,對不對。
link |
37:47.580
private column就是column的一個subset,private column都是從column裡面選出來的,private column是column的一個subset,所以你找到了一組basis,這樣ok嗎?
link |
38:01.220
所以,每一個vector set,它的心中都藏有一個basis,那你就用這個投影片裡面講的證法,你就可以把那個basis找出來。
link |
38:11.400
這個是第一個定理,這個是reduction theorem,那這邊就只是舉一個例子來告訴你reduction theorem怎麼回事,假設你有一個vector set S,然後這個vector set S,它拿去做span,它可以generate到space V。
link |
38:28.940
接下來,你把這個S表示成一個matrix,這個matrix裡面的column,就是這個vector set裡面的成員,這個vector set有六個vector,所以這個matrix有六個column。
link |
38:42.320
你做reduce row HLF,你就可以找出它的private column,然後這些private column,它是A的column space的,這些column,它是A的basis,它不是A的basis,A沒有basis,A不是一個subspace,所以它沒有basis,是A的column space的basis。
link |
39:06.380
那這些private column是A的column space的basis,那它也就是subspace V的basis,那你就找到這個subspace V的basis,然後這個basis是從S裡面來的,那這個是定理一。
link |
39:27.500
那下一個定理是要告訴大家說,basis是最大的independent set,什麼意思呢?就是假設你知道說現在basis的數目是K,假設我們現在知道說basis的大小,basis裡面的成員的數目就是K。
link |
39:49.160
那你在這個subspace裡面,你絕對找不出多於K個independent的vector出來,組成一個independent的vector set,因為basis是最大的independent set。
link |
40:08.800
所以今天假設你知道說basis的大小是K,那你在同一個subspace裡面,你找不出多於K的independent的vector。
link |
40:21.200
好,那這個theorem2是來自於extension的theory,extension的theory怎麼說的呢?extension的theory是說,假設給你一個independent的vector set S,在這邊有一個小錯,這邊應該加上sub,這個是subspace,那這邊漏打了sub,這個subspace。
link |
40:49.080
今天你有一個independent的vector set S,它落在某一個subspace裡面,那你一定可以把這個independent的vector set S,加上額外的vector,變成basis。
link |
41:05.800
你現在有一個independent的vector set,如果它還不是一個basis的話,那你就可以加入額外的vector,直到它最終一定會變成一個basis。
link |
41:18.800
也就是說,每一個independent的set,它不是一個basis,它就是正在成為一個basis。
link |
41:26.400
所以所有的independent的set,它要嘛就是basis跟basis一樣大,要嘛就是你加入新的vector以後,它可以成為一個basis,那它就是比basis還要小。
link |
41:36.600
所以所有independent的vector set,它的這個大小都是小於等於你的basis的。
link |
41:44.400
那接下來就是要來證明這件事,那怎麼證明這件事呢?假設你現在有一個subspace叫做V,那在V裡面你找出了一個independent的vector set,我們假設這個independent的vector set,我們就用三個黑色點來表示,它們是independent的。
link |
42:05.400
那我們把這個vector set拿去做span,如果今天這個vector setspan完以後,我們假設span完就是這個深藍色的圈圈,那如果span完以後這個深藍色的圈圈跟淺藍色的圈圈一樣大的話,如果一樣大,那這個S就是basis。
link |
42:25.400
對不對,因為basis的條件就是兩個嘛,一個它是independent,一個是做完span以後等於整個subspace。
link |
42:31.400
我們既然知道S是independent的,如果S做span以後正好等於V的話,那S就一定是一個basis。
link |
42:38.400
但是如果說今天S做完span以後,它不等於V,當然不等於V有很多個可能,一個是它比V大,一個是它比V小。
link |
42:55.160
但是我們剛才在一開始上課的時候已經講過說,今天在一個subspace裡面的成員做完span以後,一定還落在這個subspace裡面。
link |
43:05.520
所以今天如果我們把S做span得到這個藍色的圈圈,這個藍色的圈圈如果沒有辦法跟V一樣大,那它一定就是落在V裡面。
link |
43:19.640
那如果今天這個深藍色的圈圈是落在V裡面又沒有跟V一樣大,那我們知道說我們一定可以在深藍色的圈圈之外找到一個vector V1。
link |
43:33.400
它落在V裡面,它落在淺藍色的圈圈裡面,但它不落在深藍色的圈圈裡面。
link |
43:41.080
接下來我們可以把V1加到S裡面,本來S只有三個成員,現在他們加入了第四個成員,就是V1。
link |
43:53.600
你把V1加進去以後,它仍然會是independent的,為什麼呢?
link |
44:00.360
因為V1不會是原來原S的這三個成員的linear combination。如果V1是這三個成員的linear combination,它就應該要落在這個深藍色的圈圈裡面。
link |
44:17.720
但是今天我們發現說,V1沒有落在這個深藍色的圈圈裡面,代表V1沒有辦法被這三個成員做linear combination以後得到。
link |
44:28.200
它落在這三個成員的linear combination之外,它是沒有辦法用這三個vector做linear combination所得到的。
link |
44:36.200
所以你把V1跟這三個vector合起來,產生一個新的vector set,這個新的vector set它也是independent。
link |
44:44.680
好,那現在我們有一個新的vector set,它現在有四個成員,你現在把這四個成員再去做一次span。
link |
44:53.800
如果做完span以後的結果,綠色的圈圈等於淺藍色的圈圈,那現在你的S就是一個basis。
link |
45:02.920
因為S的成員是independent,它做完span以後等於你的subspace,那它就是basis。
link |
45:07.800
但是如果現在如同這個圖上所示,綠色的圈圈是小於淺藍色的圈圈的,那我們一定又可以再找到另外一個vector,叫做V2。
link |
45:21.000
把V2也放到S裡面,得到一個新的independent vector set。
link |
45:29.960
然後你就反覆操作這個步驟,反覆操作這個步驟,最終你一定會再也找不到新的V。
link |
45:38.920
最終這個vector set會越來越大,最終這個S會越來越大,直到它的span會等於整個V為止。
link |
45:48.520
所以這個就是extension theory的證明告訴你說,每一個independent vector set,如果它不是一個basis的話,那你一定可以找到另外一個vector加進去,找到另外一個independent vector加進去,讓它變大。
link |
46:04.680
如果它還不是basis,你又還可以找到新的independent vector再加進去,讓它變大,所以它會越來越大,直到它最終變成一個basis。
link |
46:13.160
所以所有的independent vector set都包含在一個basis裡面。
link |
46:18.920
那用我們今天講的有關basis的種種定理,你就可以回頭去看我們之前講過的上課的內容。
link |
46:27.800
我們之前在講RREF的時候有講了一些定理,而這些定理也許是你沒有那麼好理解的,如果從RREF來看的話你會覺得有點困惑。
link |
46:39.560
但是如果今天從basis的角度來看的話,可能就更加直覺一點。
link |
46:47.480
因為我們知道說每一個generation set裡面都有一個basis,也就是basis是最小的generation set。
link |
46:58.280
所以今天假設我們要討論的,我們有一個subspace,這個subspace就是m圍的空間,就是Rm。
link |
47:09.800
那這個m圍空間的generation set,想要generate整個m圍的空間,你至少需要m個vector。
link |
47:21.320
為什麼要generate整個m圍的空間,你至少需要m個vector呢?
link |
47:25.960
因為我們知道說m圍空間有一個你一想就知道的basis,m圍空間有無窮多個basis,你可以找出無窮多個basis。
link |
47:36.200
但是其中有一個basis是大家耳熟能詳的,就是所有的m的standard vector所成的集合,它是m圍空間的一個basis。
link |
47:46.200
因為這個m圍空間它的basis有m的成員,所以我們知道說它的dimension就是m,它dimension等於m。
link |
48:00.040
這邊想要寫dimension,但寫得不是很好,它dimension等於m。
link |
48:04.040
所以它的basis一定都有m的element,那generation set一定是大於等於basis的。
link |
48:12.360
所以所有的generation set,所有可以generate m圍空間的vector set,它的成員的數目一定要至少有m個成員,一定要大於等於m個成員才可以。
link |
48:26.520
所以我們之前說過說,因為我們這個世界是三圍的空間,所以發現說神器或者是神之卡至少都有三樣。
link |
48:36.600
三張神之卡就是歐貝利斯克的巨神兵、歐西里斯的天空龍和太陽神的異神龍。
link |
48:44.780
這個你們也知道,但是我們年紀其實差不多。你們發現說很多東西都是三樣,死神的聖物也是三樣。死神的聖物就是一個披風、一個石頭和一個接骨木魔杖,所以都是三樣。
link |
49:06.540
小說裡面通常都是三個主角,哈利波特就是三個主角,一個男的、一個女的、一個沒有用的。其實你會發現說奇幻小說往往都是遵循這個定律的。
link |
49:24.420
有時候波西傑克森,大家應該都沒有看過波西傑克森吧?有啊,波西傑克森也是三個主角,一個男的、一個女的、一個是洋男,那個也是沒有用的。
link |
49:36.780
所以這就是為什麼我們活在三維的世界裡面,你只要有三個vector,就可以generate整個世界。
link |
49:45.180
這就是為什麼孔子就說三人行必有我師,因為只要三個人做linear combination,就可以成為所有的人,裡面其中有一個人就是你的老師。
link |
49:54.820
所以今天如果是四維空間的生物,他們都說四人行必有我師了。麻將四人行就多了一個人這樣子,麻將是四維空間的遊戲。
link |
50:08.540
所以我們今天又知道另外一件事情是說,我們知道說在一個subspace裡面,最大的independent set就是你的basis。
link |
50:26.540
所以今天M維的空間,它的basis是M的element,M維空間的dimension是M。
link |
50:32.540
所以你在M維空間裡面找不出超過M的independent vector,你在M維空間裡面拿出M的vector出來,你在M維空間裡面拿出超過M的vector出來,它都一定是dependent的。
link |
50:46.500
所以你在我們這個三維的空間裡面,你找出四個東西,其中一個通常就會溶掉,好像在獵人裡面有四個主角,雷歐力就是多餘的。
link |
50:55.780
或者是說,在偉大的航道上有一個四皇,然後後來白鬍子就死掉了,因為不需要白鬍子,因為是多餘的這樣子。
link |
51:06.300
所以我們知道說,如果你組一個隊有四個成員,其中一個就是不需要的,這個是線性代數告訴我們的事情。
link |
51:15.940
好,那就是為我們這堂課下一個結論了。這堂課的結論是說,如果你把basis想成一個雕像,你把一個basis想成一個雕塑,那你知道雕塑是怎麼做的嗎?
link |
51:27.380
雕塑有兩種做法,就是用雕或者是塑的方法可以產生一個雕塑。所謂雕的方法就是拿掉多餘的東西來產生你要的東西,
link |
51:37.740
而塑的方法就是把你要的東西堆疊起來,把材料堆疊起來產生你要的東西。
link |
51:46.460
所以今天假設這個大衛像就是一個basis,那如果你要做一個大衛像的話有兩個方法。
link |
51:52.300
一個是你找一塊石頭來開始雕它,第二個做法是你把一堆石頭拿來把它疊起來,變成一個雕像。
link |
52:01.820
那今天這個大衛像就是basis,那generation set就是一個大理石,那你把generation set進行雕塑它就會產生大衛像,每一個generation set裡面都有一個basis。
link |
52:14.420
而你的詞圖就是independent vector,你把很多independent vector堆疊起來,最終會變成basis,那這個就是今天這堂課要告訴大家的事情。
link |
52:27.180
好,那我們就在這邊休息十分鐘。
link |
52:46.460
剩下這份投影片的內容,想要告訴大家的是,
link |
52:53.180
如果給你一個vector set,怎麼檢查它是不是某一個subspace的basis?
link |
52:59.060
有同學問到一些有關作業小考的問題,我們這個配分是這個樣子,70%是期中期末考,剩下30%就是作業,作業就是六次裡面選五次最高分的當作你的成績,希望你作業都是30分。
link |
53:19.420
但是還是有期中期末考,期中期末考是四番統一命題就是了。
link |
53:24.860
那你要,你如果要準備期中期末考的話,也許你還是需要看一下課本後面的習題的。
link |
53:33.820
那我也沒有辦法保證說期中期末考不會出一些給你一個metric,叫你算出reduce或h2form這種題目就是了。
link |
53:41.780
好,那我們現在已經知道了basis的定義,如果問你一個vector set,它是不是某一個subspace的basis,你可以用定義來檢查說這個vector set B它是不是一個basis,我們之前都是這樣做的。
link |
54:05.420
那在很多時候,這件事情並沒有那麼難,但是你今天會遇到一個問題是這個樣子,假設現在題目是這樣出的,它說我有某一個subspace。
link |
54:24.740
你要找出這一個subspace的basis不難,但是如果今天這個問題是直接給你一個vector set C,問你說它是不是某一個subspace的basis的時候,你會卡在什麼地方呢?
link |
54:42.860
你不會卡在這個vector set是不是independent,你要檢查一個vector set是不是independent,非常容易,你可能一秒就可以看出來說C這個vector set它是independent。
link |
54:54.340
那你會卡在什麼地方呢?你會卡在你不知道C能不能夠generate V,對你來說要找出V的basis,其實你是找得出一組的,我們就找一下這個system of linear equation,它的parametric representation,你就可以找出V的subspace。
link |
55:16.620
Linear equation就可以找出V的basis,但是如果給你一個vector set,問你說這個vector set到底能不能夠generate V,你就有點困惑,你就有點不知道說這個vector set C它到底能不能夠generate V。
link |
55:32.460
所以check一個vector set到底能不能夠generate一個subspace,有時候你會有困難,所以怎麼辦呢?現在有另外一個更常用的做法,其實更常用的做法是這樣。
link |
55:45.580
假設我們已經知道一個subspace V它的dimension就是K,那你如何知道一個subspace V它的dimension就是K呢?找這個subspace的basis,你找出它的basis以後你就知道它的dimension是多少,那你要找一個subspace的basis往往不難。
link |
56:06.780
接下來,如果有一個vector set,它有K一個vector,它的K跟subspace的dimension是一樣的,它只要滿足下面兩個條件的其中一個,它就會是basis。
link |
56:23.540
如果一個有K一個vector的vector set S,它只要是independent的,它就是basis,它只要是subspace的generation set,它就是basis,你就不用檢查它是不是independent。
link |
56:39.460
所以說本來我們要檢查某一個vector set S是不是某一個subspace V的basis的時候,你要檢查兩個條件,一個是independent,一個是generation。但是現在假設你已經知道這個subspace的dimension就是K,然後你現在要考慮的這個vector set,它的element的數目,它的成員的數目就是K一個vector,這個時候你就不需要independent跟generation都檢查了。
link |
57:08.660
你只要檢查其中一者,另外一者就必定會成立。你只要檢查其中一個條件成立,那S就一定是一個basis。
link |
57:20.860
好,那所以這邊我們就是舉一個例子來告訴你說這整件事是怎麼操作的。我們剛才說,如果給你這樣一個問題,給你一個subspace,然後問你說某一個vector set C,它到底是不是這個subspace V的basis的時候,你會卡在說你並不知道這個C能不能夠generate出V。
link |
57:43.260
那怎麼辦呢?你就先找一下V的basis出來,就先找一組V的basis出來,那你可以用parametric representation找出V的basis。
link |
57:57.340
那V的basis會有幾個element呢?如果你把它的parametric representation列出來的話,你會發現說V的basis有兩個element,也就是V的dimension等於2。
link |
58:11.580
如果我們現在知道說V的dimension等於2,而C它正好也有兩個vector,而C同時又是independent的,那這個時候C又會是V的一個basis。
link |
58:25.980
所以以前我們要確定說某一個vector set是不是某一個subspace的basis的時候,我們要檢查independent跟generation兩個條件,而檢查generation這件事情往往會有困難。
link |
58:38.620
但現在你發現說你只要能夠知道V的dimension的大小,確認一下你現在要考慮的那個vector set的數目是不是跟V的dimension一樣,接下來只要檢查independent,檢查independent是比較容易的,只要檢查independent,你就可以知道說你現在考慮的這個vector set是不是V這個subspace的basis。
link |
59:03.100
好,那我們接下來要證明的就是說,假設有一個subspace,它的dimension是K,那現在你又有一個vector set S,它的成員的數目正好也是K,那這個時候只要S是independent的,那S就是一個basis。
link |
59:31.420
或者是只要S是V的generation set,那你不用檢查它是不是independent,其實它就一定會是independent,你不用檢查它是不是independent,它一定就會是一個basis。
link |
59:46.060
這個怎麼證明呢?這個只需要用想的就可以了,不需要證明,只要想一下就會知道說這件事情應該是對的,因為根據extension的theory,我們知道說每一個independent的vector set,它要嘛就是個basis,要嘛就是增加了額外的vector以後會變成一個basis。
link |
01:00:11.260
那現在我們已經知道說V的dimension就是K,我們又知道說S有K個成員,而我們知道說在一個dimension是K的subspace裡面,你找不出超過K個independent的vector。
link |
01:00:36.820
最大的independent的vector set,它的element的數目一定是K。今天S既然已經有K個element,你不可能再給它新的成員,你不可能再把S再擴增,變成更大的independent的vector set。
link |
01:00:55.780
而我們說一個independent的vector set,它要嘛就是basis,要嘛就是擴大以後可以變成一個basis。今天既然無法再擴大了,那它就是一個basis了,所以就得證這樣子。
link |
01:01:09.220
如果只要知道independent它就是一個basis,這件事情是從extension的theory來的。接下來我們再來看下面這個敘述,下面這個敘述就是從reduction的theory來的。
link |
01:01:25.940
下面這個敘述是說,如果S是一個generation set,那S一定會是一個basis。那怎麼說呢?因為我們今天知道說一個basis它是最小的generation set。
link |
01:01:46.780
那今天如果我們要generate一個dimension是K的subspace,那你至少會需要K個element。而今天S又正好是K個element,所以它已經是最小的generation set,你沒有辦法再更小了,所以S就是一個basis。
link |
01:02:11.260
如果這邊你沒有辦法跟上的話也無所謂,反正你就是記得說,以前要先檢查一個vector set是不是basis的時候,你要檢查independent generation這兩個條件。
link |
01:02:24.160
但是假設你知道這個vector set的dimension的話,你就變成只需要少檢查一個條件,你就只需要檢查一個條件就好了。
link |
01:02:32.140
那這邊就是一個例子,如果你今天給了你一個subspace V,然後再給你一個vector set B,然後問你說B是不是V的basis,你怎麼做呢?
link |
01:02:45.760
原來做法是說先檢查B是不是independent,檢查完以後再檢查說B能不能夠generate V,但是檢查B能不能generate V是比較困難的,所以你要先找出V的dimension。
link |
01:02:59.940
好,我們現在已經先確定說B它是一個independent vector set,那怎麼知道它是independent vector set,當然你可以用想的,因為反正現在才三個vector而已,你就看一看是不是這三個vector是不是其中兩個可以generate這三個,發現說不行,所以它是independent。
link |
01:03:18.940
那你也可以說,把B的三個vector當作是某一個matrix B的三個column,然後算它reduced row HL4,根據它reduced row HL4,你可以知道說這三個column是不是independent。
link |
01:03:31.560
好,那接下來你要找出V的dimension,那怎麼找出V的dimension呢?你就看看V的system of linear equation裡面有多少個free variable,有三個free variable,那三個呢?一個是V2,一個是V4,還有一個根本就沒有列在這邊的是V3,有三個free variable。
link |
01:03:57.000
三個free variable,你今天把它列成這個parametric的縫的時候,你一定會寫出說V1,V2,V3,V4會等於V2乘上某一個vector,它是誰就不重要了,V2乘上某一個vector,寫好一點,這V2,加上V3乘上某一個vector,V3乘上某一個vector。
link |
01:04:23.660
然後再加上V4乘上某一個vector,所以這個vector set,這個subspace V的dimension就是3,這個V4,這個subspace它的dimension就是3,現在這個subspace的dimension是3,你現在要考慮的這個vector set B,它的element的數目,它的vector的數目正好也是3,那B就是V的一個basis,好,就這樣。
link |
01:04:53.660
那這邊是舉另外一個例子,這個例子是說,現在我們有一個vector set V,這個vector set V是S這個vector set的subspace,你有一個vector set S,你把它做subspace以後得到V,那你想要知道說,B是不是它的一個basis,那你要怎麼做呢?
link |
01:05:14.880
你如果要檢查B是不是independent的,這件事情非常的容易,但是你要檢查B能不能夠generate span S,這件事情就有點麻煩了,但沒關係,我們來check一下span S,我們來check一下V,也就是span S,它的dimension應該是多少。
link |
01:05:34.660
這個V的dimension應該是多少呢?V的dimension就是你把S這一個vector set的四個vector當作matrix A的四個column,接下來就看說matrix A有幾個private column,你就知道說今天這個V這個subspace的basis有多大。
link |
01:05:53.660
A有幾個private column呢?你就做一下reduce row HL4,你發現說A有三個private column,所以你今天知道說,用這三個vector,第一個、第二個、第三個,三個private column,用這三個vector把它做span以後,就會得到V。
link |
01:06:18.200
這三個vector做span以後,等於A的column space,就等於S的span,就等於V。
link |
01:06:24.660
那今天既然用三個vector,就可以span這個subspace V的話,那你就知道說,subspace V的dimension就是3。
link |
01:06:38.540
那因為V的vector的數目也正好是三個,V又是一個independent vector,你要檢查V是independent vector,你也可以把B當作是一個matrix,算它reduce row HL4,發現它是independent,所以B就是V的一個basis。
link |
01:06:54.300
好,這個就是你如何檢查一個vector set,是不是一個subspace的basis。