back to index
Linear Algebra Lecture 34: General Vectors (Part I)

link |
我們要進入下一個主題,那下一個主題呢,講的是vector的更general的型態。
link |
也就是說,我們在這一門課裡面,在線性代數裡面,我們不斷地講到vector這個東西,
link |
然後不斷地對vector做各式各樣的操作,在vector上呢,定義了種種的terminology。
link |
那你可能會覺得說這一系列的想法只能apply在你所認知的那一個vector上面,
link |
但是實際上很多東西都是vector,舉例來說,一個function它也是一個vector。
link |
那等一下會講說為什麼一個function它也是一個vector。
link |
所以今天在這一門課裡面學到的種種概念,都可以直接apply在那些更廣義的vector上面。
link |
舉例來說,這一門課學到了比如說linear combination, span basis, orthogonal這些東西,
link |
通通可以直接apply在更廣義的那些vector上面,比如說apply在function上面。
link |
那這個部分呢,是記錄在課本的第六章。
link |
這邊再提醒一下就是,課本的第六章跟第七章啊,它們的順序是錯亂的。
link |
還是說很驚訝,還是說你們手上都沒有課本?
link |
好,那大家記得這件事,所以這個是課本的第六章,但它是實際上的第七章。
link |
好,那我們接下來看看有什麼樣的東西是廣義的vector。
link |
舉例來說,一個矩陣其實它是一個vector。
link |
我們怎麼說一個矩陣是一個vector呢?
link |
舉例來說,我現在隨便拿一個矩陣A等於1234出來,
link |
我可以把這個矩陣裡面的每一個element拉直排成一排,它其實就變成一個vector。
link |
所以我可以說,我把一個矩陣當作是一個vector來看待它。
link |
或者是說,一個linear transform我們也可以把它當作vector來看待它。
link |
為什麼一個linear transform可以當vector來看待它呢?
link |
因為我們說每一個linear transform背後都對應到一個metric。
link |
那既然一個metric可以當vector來看待,一個linear transform也可以當vector來看待。
link |
那其實一個polynomial也可以當作一個vector來看待。
link |
怎麼把一個polynomial當作一個vector來看待呢?
link |
你說你有一個polynomial,P of X,它是A0加A1的X一直加到AnXn方。
link |
那我完全可以把這一個polynomial就把它寫成vectorA0到An,我只把係數取出來。
link |
我只把這個polynomial的係數A0、A1到An取出來,把它當作一個vector來看待。
link |
那你光看這個vector,你就可以還原原來的polynomial。
link |
這些vector跟這個polynomial的關係是一對一的。
link |
所以今天你可以把一個polynomial當作一個vector來看待。
link |
或者是有更多例子,其實廣義的任何function它都可以是一個vector。
link |
比如說1的t次方,它可以是一個vector。
link |
那可能問說1的t次方怎麼把它看作一個vector來看待呢?
link |
它是一個vector,這個vector裡面的element的數目是無窮多的。
link |
大家可以想像嗎?這個是1的t次方就長這樣子嘛。
link |
然後現在呢,我們在1的t次方這個function上面取sample。
link |
但是要取得非常非常的密,假設取得非常非常的密。
link |
我沒有辦法真的把它畫得很密,但你可以想像我把它取得非常非常的密。
link |
那每一個sample的結果就是vector裡面的其中一維。
link |
這樣大家了解嗎?這個是vector的第n維的數值,這個是vector的第n加1維的數值。
link |
接下來還有vector第n加2維,n加3維,一直到無窮無盡。
link |
所以一個general的function,所以隨便拿一個function出來,我其實都可以說它是一個vector。
link |
只是這個vector它的dimension是無窮大的,它裡面有無窮多的element。
link |
這樣大家可以接受嗎?所以一個general的function其實也是一個vector,你也可以用我們對vector所知道的種種東西,拿它來做操作。
link |
或者是g of t等於t平方減1,它也是一個vector,每一個function都是一個vector。
link |
那我們知道我們可以把兩個vector直接做相加,我們可以把v跟g加起來。
link |
把v所對應的vector跟g所對應的vector加起來會等於什麼呢?其實就是把f跟g直接加起來。
link |
那f是e的t次方,g是t平方減1,所以加起來就是e的t次方加上g平方減1。
link |
所以廣義的來說,什麼是一個vector呢?如果你有一堆object,這些object,這些東西,它們集合起來形成一個叫做vector space的東西,那這些東西就是vector。
link |
就有一堆東西的集合,那這個集合它滿足vector space的條件,它就是一個vector。那什麼叫做滿足vector space的條件呢?
link |
vector space的條件就是這樣,首先在這個vector space上面你要定義兩個operator,這兩個operator,一個叫做加,一個叫做addition,一個叫做scalar的multiplication。
link |
那這兩個東西你可以任意定義,你就定義一個你自己喜歡的加跟乘,你定義一個自己喜歡的addition跟scalar multiplication。
link |
那定義完以後,假設在這個set裡面有三個vector u,v跟w,隨便拿兩個scalar a跟b,那今天你把u跟v相加,它一定要是落在v裡面。
link |
那什麼叫做相加,這個是你自己定義的,你定義某個東西叫做相加,然後u跟v相加,它一定要落在v裡面,這個是vector space的其中一個條件。
link |
那今天這個某一個vector u乘上任何scalar,都仍然要在這個set裡面,那你就滿足了vector space的其中一部分的條件。
link |
接下來有八個條件必須要滿足,才能說是一個vector space。哪些條件呢?這個u加v等於v加u,有可能u加v不等於v加u,也是有可能,因為dependent你定義什麼叫做加法,你定義的加法必須要u加v等於v加u。
link |
然後u先加v再加w,等於v先加w再加v,然後要有一個東西叫做zero vector,有一個東西叫做zero vector,這個zero vector它跟任何人相加都一定會等於原來那個東西。
link |
那這個zero vector它一定是唯一的,這個要證明它一定是唯一的這件事情非常容易,因為我們假設有兩個zero vector好了,那兩個zero vector,一個叫做0,一個叫做0'.
link |
假設你現在想要定義兩個zero vector,你會發現說你要定義兩個zero vector是不可能的,為什麼?你要定義兩個不一樣的zero vector是不可能的,為什麼?
link |
因為zero vector的定義就是它跟任何人相加都不會改變對方,所以0加上0',假設0它是一個zero vector,那0加上0',因為它不能夠改變0',所以它就等於0'.
link |
那0'假設也是一個zero vector,0'去加0,你也不能改變0,所以0'也是0,所以它也等於0,所以我們就知道說0'等於0。
link |
今天你不可能定義兩個zero vector,zero vector是唯一的,假設你按照zero vector定義,就加上任何人都會不改變任何人的話,那它一定是唯一的。
link |
另外一個條件是有一個東西叫做-u,然後-u加u會等於zero vector,還有很多條件就是1乘上u等於u,然後a乘上b再乘上u會等於b先乘上u再乘上a,a乘上u加b等於au加av,a加b乘上u等於au加bu。
link |
滿足這些條件,它就是一個vector space,那你就可以把vector space裡面的成員叫做vector,就這樣。
link |
你可能會覺得說,哇靠,這個太複雜了,你記不起來,對,這個你大概記不起來。
link |
但是我覺得一個東西到底是不是vector,你可以很直覺地就想出來,你憑著直覺就會知道說它是一個vector。
link |
如果你可以把它想成看作是一個vector的樣子,像我們剛才說把metric拉直就變成一個vector,把function取sample就變成一個無窮長的vector,polynomial係數拿出來是一個vector,你只要直覺覺得它是一個vector,其實它就是一個vector,就這樣子。
link |
假設有人問你說,我現在有某個東西,比如說我的一堆polynomial,你覺得它們是不是vector,那如果你要用正義的投影片講的定義來驗證的話,你有點困難,尤其是考試的時候你不太可能記得這些定義,但是你可以憑著直覺就知道說它應該是一個vector,你的直覺通常就是對的。
link |
所以其實我們到目前為止在課堂裡面,我們講的vector space其實都是Rn這個vector space,你可以輕易地了解說Rn這個vector space符合下面我們對於vector space的定義。
link |
同一個東西它其實是可以屬於不同的vector space,舉例來說,我現在有一維空間上的三個點,那一維空間是一個vector space,一維空間上的三個點,比如說1、2、3,就是這個vector space裡面的三個object。
link |
但是我們也可以說這三個object其實是另外一個更大的vector space裡面的成員,有另外一個vector space它叫做R2,那這三個東西它在另外一個vector space裡面看起來就不太一樣,就是1、0、2、0跟3、0。
link |
或者說我們舉另外一個例子,假設我這邊有一堆function,有三個function,那這三個function,這些function我們其實可以用兩個不同的vector space來看待它,如果我們用vector space來看待它的話,這些function,你把它們看起來在這些不同的vector space裡面,它們的表示的方式是不太一樣的。
link |
舉例來說,假設我們現在說我們有function f跟g跟h,我們可以說f跟g跟h它們都是polynomial,它們都是polynomial,而這些polynomial它的degree小於等於2,而它的degree小於等於2。
link |
我們說所有degree小於等於2的polynomial所形成的集合是一個vector space,那這個vector space裡面有三個成員,就是f跟g跟h,那我們可以把f跟g跟h分別用一個vector來表示,就是1、0、0、1、1、0跟1、1、1。
link |
但是f跟g跟h也可以說它們是另外一個vector space裡面的成員,另外一個vector space是什麼呢?假設我們有一個vector space就是由所有的function所構成的,由所有的function所構成的,那我們可以說f跟g跟h是這個所有的function所構成的vector space的成員。
link |
當我們說f跟g跟h它們是所有的function所構成的vector space的成員的時候,那你要表示f跟g跟h,你要用向量來表示它的時候,那它們是無窮長的向量,所以同一個東西,同一個function,在不同的vector space裡面,它們的表示的方式是不太一樣的。
link |
那要看說你的vector space是什麼樣的vector space,如果是degree小於等於2的polynomial所形成的vector space,在表示f跟g跟h的時候,它們是長度有限,其實就是3,長度是3,維度是3的向量。
link |
但是如果是所有function所形成的vector space的時候,f跟g跟h,你要把它們劃成一個向量,那它們是無窮長的向量。好,那再來呢,我們就根據我們學到的,之前學到的有關vector的定義,把它還有種種的操作,還有種種的terminology,通通都套用到廣義的vector上面。
link |
那這個接下來講的東西其實是有點無聊的,它其實就跟前面第一章到第七章講的東西就是一樣的,就同樣的東西再講一次,那只是現在操作的對象不是vector,而是其他的東西,比如說function。
link |
但是你永遠可以把那些function就在你的心裡想成是一個vector,當它們在你的心裡是一個vector的時候,那接下來要講的東西,通通都是已經講過的事情,所以是有點無聊的,我們就只是當作是複習第一章到第七章。
link |
好,那我們之前有講過subspace,那什麼是subspace呢?秒複習一下,就是subspace裡面有zero vector,u跟w都在這個subspace裡面,那u加w也在subspace裡面,那如果u在這個subspace裡面,那u乘以c也在這個subspace裡面,就這樣。
link |
好,那我們來想像看接下來的東西是不是subspace,所有的function,它通過某一個點t0的值都是0的那些function,是不是subspace呢?
link |
這句話是什麼意思,就是說我們現在有一堆function,然後有一個數值叫做t0,這些所有的function在t0的地方它們都是0,也就是它們都會經過這個點,經過這個點的function有無窮多個,經過這個點的function有無窮多個,它們有可能長得很複雜,長得像這樣。
link |
那反正就是要在t0那個地方,就是要通過t0,就是要小心的通過t0,然後這樣,有各式各樣的function,各式各樣的function它們都會通過t0這樣。
link |
那它們全部集合起來,這些function全部集合起來,是不是一個subspace呢?那現在function其實也是一個vector,它是無窮長的vector,它們是不是一個subspace呢?
link |
講開,你覺得它適合同學舉手一下,手放下,你覺得它不適合同學舉手一下,沒有,沒錯,它是一個subspace,你就確認一下它滿足subspace的種種定義。
link |
那subspace的第一個定義是它要不要包含,它要包含zero vector,那到底對function而言,所謂的zero vector是什麼東西呢?
link |
那一按這個zero vector的定義,zero vector的定義就是這個東西加上其他人都不會改變其他人。
link |
那對function而言,所謂的zero vector其實就是如果某一個function不管input是什麼,output都是0,比如就直接寫好了,f of x等於0,f of x等於0,它就是zero vector,f of x等於0,它就是zero vector。
link |
f of x等於0有沒有落在這個set裡面呢?它是有落在這個set裡面的,f of x等於0在t0的地方它也是等於0的,所以今天所有通過t0等於0的位置的這個,所有在t0的地方等於0的這個function,它合起來是一個subspace。
link |
好,那這邊有另外一個例子,所有的matrix它的trace,所有trace都是0的那些matrix合起來,它是一個subspace嘛,所謂trace都是0的意思就是,什麼是trace,trace就是對角線,對角線的值都是0的這些function,全部集合,不是function,對角線都是0的,同樣大小的matrix。
link |
就假設我們今天考慮的是,都考慮,只考慮n by n的matrix好了,只考慮n by n的matrix,所有n by n的matrix,如果它的trace都是0的話,所有trace都是0的,n by n的matrix所形成的集合,它是一個subspace嗎?
link |
你覺得它是一個subspace的同學舉手一下,手放下,你覺得它不是的同學舉手一下,為什麼,你可能覺得說上一個是,下一個應該不是,但是其實是的。
link |
對matrix來說 zero vector就是zero matrix
link |
zero matrix就是zero vector
link |
所形成的集合是包含zero vector的
link |
zero vector它的對角線都是0
link |
滿足這個形式的二乘以二的matrix
link |
你就Susface的三個條件來檢查一下
link |
所以zero matrix是這個Susface的其中一個成員
link |
你把這個matrix乘上某個scalar
link |
那你覺得所有的continuous的function
link |
所有的continuous的function
link |
所有的continuous function
link |
所有的continuous function是包含0的
link |
0的function是一個continuous的function
link |
兩個continuous function相加
link |
還是continuous function
link |
一個continuous function
link |
它都是continuous function
link |
所有degrees n的polynomial
link |
degrees n的polynomial是
link |
就是它的最高次是xn方的polynomial
link |
它就不是一個degrees n的polynomial
link |
你覺得它是一個Susface的同學舉手一下
link |
它0不是一個degrees n的polynomial
link |
那如果今天是所有的polynomial
link |
因為今天這個degree等於n的polynomial
link |
雖然相加以後可能degree會變成0
link |
是所有degree小於等於n的polynomial
link |
用p來代表所有的polynomial所形成的集合
link |
用pn來代表所有degree小於等於n
link |
這邊我們不是說pn代表degree等於n
link |
pn代表所有degree小於等於n的polynomial
link |
我們接下來要講的是linear combination跟span
link |
那這個linear combination跟span
link |
跟我們之前講的vector的linear combination跟span
link |
做linear combination
link |
就是把第一個matrix乘上某一個scalar a
link |
第二個matrix乘上某一個scalar b
link |
第三個matrix乘上某一個scalar c
link |
加起來就是linear combination
link |
好那你可以把一個vector set做span
link |
那現在如果我們要把上面這個vector set
link |
一個vector set裡面的成員做linear combination
link |
這三個matrix做linear combination
link |
那abc-a這個matrix它是什麼樣的特色呢
link |
好那所以這個span s以後的結果呢
link |
你得到的結果得到的那個vector set
link |
就是所有可以寫成abc-a的matrix
link |
好那這個跟你知道的東西都沒有什麼不同
link |
假設我們現在有一堆polynomial
link |
那我們也可以把這些polynomial
link |
做linear combination
link |
好我有一個polynomial的set
link |
我有一個polynomial的set
link |
好那我們就可以做linear combination
link |
就可以得到另外一個新的polynomial
link |
是這個vector set s裡面的成員的linear combination
link |
上面的s這個vector set做span的話
link |
所有polynomial所形成的集合
link |
所以你把1x,x²,x³這個vector set
link |
這個無窮大的vector set裡面就是
link |
那把這個vector set做span
link |
你就可以得到所有的polynomial
link |
好那這個就是span跟linear combination
link |
好那再來講linear的transformation
link |
或者一個transformation
link |
或一個operation T它是linear的
link |
如果T of u加v等於T of u加T of v
link |
如果T of cu等於c倍T of u
link |
那這個T我們就說它是一個linear的function
link |
那有一些function它不見得是作用在vector上
link |
就transpose這個function
link |
但是這個作用在matrix上面的function transpose
link |
它是不是一個linear的operation呢
link |
transpose它是一個function
link |
然後output另外一個matrix
link |
你把matrix A丟到transpose這個operator裡面
link |
然後它吐出來的就是A的transpose
link |
它吐出來的就是A的transpose
link |
那這個function它是不是linear的呢
link |
這個function它是不是linear的呢
link |
所以它是一個linear的operation
link |
那這個function它的input是一個
link |
它output是一個n by n的matrix
link |
input是一個n by n的matrix
link |
output是一個n by n的matrix
link |
它input output都是matrix
link |
所以它是一個linear的operator
link |
可以看作是function的function
link |
它是一個function的function
link |
我們把微分看作是一個function
link |
但是它這個function是一個function的function
link |
積分也是一個function的function
link |
它是一個function當作input
link |
而這個function的function
link |
但其實它們都是linear的function
link |
而linear function它的背後
link |
我們之前定義的null space跟range
link |
所有代到某一個function進去以後
link |
代到transpose這個matrix以後
link |
假設我們把matrix當作vector來看
link |
0的matrix就是0 vector
link |
所以今天對transpose這件事情來說
link |
它的null space就是0 matrix
link |
好那matrix的transpose的range
link |
其實就是所有n by n的matrix
link |
假設輸入是n by n的matrix
link |
它的輸出就是所有n by n的matrix
link |
那它的range就是所有n by n的matrix
link |
我們現在是作用在其他的object上
link |
這個transpose這個matrix
link |
不是transpose這個matrix
link |
是transpose這個function
link |
就transpose是一個function
link |
output是a的transpose
link |
所以transpose這個function
link |
好再來我們今天有另外一個function
link |
它的codomain是所有degree小於
link |
你覺得它是one to one的同學
link |
好你請大家不是one to one的同學
link |
所以今天有很多不同的function
link |
今天這一個function的range
link |
也就是說今天這個function的output
link |
所以今天這個function的output
link |
大小於等於三次的polynomial
link |
三次的degree等於3的polynomial
link |
所以不同的生物有可能有同樣的類型的器官
link |
這一個graph跟這個graph看起來不太一樣
link |
這兩個左右兩邊的graph看起來不太一樣
link |
所以我們說它們是isomorphism
link |
假設我們有兩個vector space
link |
然後現在你如果有一個linear的transformation T
link |
然後這個linear transformation我們說
link |
那一個linear的operator
link |
今天在input domain跟code domain上
link |
input domain的東西跟code domain的東西
link |
你在input domain有一個東西
link |
你在code domain就會有一個一模一樣的東西
link |
好 那如果今天兩個vector space
link |
它們中間存在著一個isomorphism
link |
就存在著一個linear transformation的function
link |
你找到一個學號就可以對到身分證的字號
link |
你找到一個身分證的字號就可以對到學號
link |
那這個matrix U它做的事情就是transpose
link |
transpose這一個operator
link |
它的input domain是M by N的matrix
link |
它的code domain是N by M的matrix
link |
那我們發現說這個transpose這個matrix
link |
這意味著說M by N的matrix
link |
至少存在著一個isomorphism
link |
這個isomorphism就是transpose
link |
可以把這兩個vector space對在一起
link |
所以M by N的matrix跟N by M的matrix
link |
N by N的matrix跟M by M的matrix
link |
兩邊的element是可以一一對應的
link |
其實P2跟R3也是isomorphic的
link |
那些polynomial所形成的集合
link |
我們可以找到一個linear transformation
link |
這linear transformation是
link |
所以P2跟R3它們是isomorphic的
link |
它是linear independent的
link |
好 所以今天不是只有一般的vector有basis
link |
general的vector也可以有basis
link |
就是裡面的成員必須要是independent
link |
independent定義跟我們之前
link |
一開始講的independent定義
link |
它們是不是independent的呢
link |
做linear combination以後得為0
link |
我們可以把3倍的第一個element
link |
我們能不能夠找到三個coefficient
link |
然後做linear combination以後
link |
但是做linear combination以後
link |
代表說它們是independent就這樣
link |
那這個independent跟dependent的定義
link |
我們有一個無窮大的vector set
link |
是independent的還是dependent的呢
link |
我們有一個無窮大的vector set
link |
它是dependent的還是independent的呢
link |
那你就按照dependent independent的定義來想
link |
你要讓這些東西做linear combination以後
link |
其實我們現在還沒有講到什麼叫做ossogonal
link |
它們是dependent的還是independent的呢
link |
所以這三個東西做linear combination
link |
把這三個function做vector上
link |
有辦法搞出zero的function嗎
link |
除非那個weight上的weight都是0
link |
除非weight上的weight都是0
link |
但是你可以再有別的constraint
link |
有了independent的概念以後
link |
basic是一個independent的vector
link |
好 那現在我們有一個subspace
link |
會變成二乘二的matrix的basis
link |
而這個basis的dimension是4
link |
做linear combination
link |
又可以變成所有的polynomial
link |
所以它dimension當然就是無窮大