整理&字幕由Amara.org社群提供

MATRIX A的NORTH SPACE,一個是MATRIX A的ROW SPACE。

好,那我們今天要講的,這份影片要講的就是這三個SPACE,它們的BASIS長什麼樣子,你怎麼找出它們的BASIS,還有它們的DIMENSION到底有多大,然後最後會推出一個很重要的定理。

那複習一下A的COLUMN SPACE NORTH SPACE和ROW SPACE分別是什麼,那假設A是一個M by N的MATRIX,那我們知道說A的COLUMN SPACE,就是A的COLUMN的LINEAR COMBINATION,

所以A的COLUMN SPACE一定是落在RM裡面,因為這些都是M為的VECTOR,把它們做LINEAR COMBINATION以後一定落在RM裡面。

那我們之前有講過說,假設你把A當作是一個FUNCTION,當作是一個LINEAR的TRANSFORM,那A的COLUMN SPACE是什麼呢?

A的COLUMN SPACE是所有的COLUMN LINEAR COMBINATION以後所成的集合,這個東西就是如果你把A當作一個LINEAR TRANSFORM,那A的COLUMN SPACE就是A的LINEAR TRANSFORM的RANGE。

所以RANGE的意思是說,假設藍色這個圈圈是你的DOMAIN,綠色圈圈是你的COLDOMAIN,你把DOMAIN裡面的東西通通對應到COLDOMAIN以後所成的集合就是你的RANGE,那這個RANGE也是A的COLUMN SPACE。

好,那我們來看一下NORTH SPACE,NORTH SPACE是什麼樣子呢?NORTH SPACE是說AX等於零所成的集合就是NORTH SPACE。

好,那因為現在MATRIX A它是一個M by N的MATRIX,而這個X它是一個,所以X它會是一個N維的VECTOR,而X它是一個N維的VECTOR,它是一個N維的VECTOR。

所以今天A的NORTH SPACE一定落在RNN維的相量所成的這個空間裡面。好,那如果用圖示化的方式來表示它的話,這個藍色的圈圈是INPUT DOMAIN,綠色的圈圈是COLDOMAIN。

那在COLDOMAIN上有哪些INPUT DOMAIN的成員可以產生ZERO VECTOR呢?這些可以產生ZERO VECTOR的成員,也就是黃色的這個範圍,就是A的NORTH SPACE。

那這個NORTH SPACE裡面一定會包含ZERO VECTOR,對不對?因為ZERO VECTOR乘上A一定會等於ZERO VECTOR,所以ZERO VECTOR一定包含在NORTH SPACE裡面。

那ROW SPACE是什麼意思呢?COLUMN SPACE是把COLUMN做NILLIAN COMBINATION,ROW SPACE就是把ROW做SPEC,每位ROW都是N維的相量,所以ROW A裡面的成員都落在RN裡面。

那ROW SPACE你可以把它簡單寫成,就是你把MATRIX A做一個TRANSPOSE,取一個上標大廳以後,這個新的MATRIX A TRANSPOSE的COLUMN SPACE就是原來MATRIX A的ROW SPACE,這是三個有名有姓的SUSPACE。

接下來要問的就是說,這三個有名有姓的SUSPACE,你通常會怎麼找它的BASIS,還有怎麼計算它的DIMENSION有多大,我們就先從COLUMN SPACE開始看起。

那我們之前已經講過兩次說,COLUMN SPACE的BASIS到底是什麼,COLUMN SPACE的BASIS就是PRIVATE COLUMN,你MATRIX A的PRIVATE COLUMN拿出來,它就是COLUMN SPACE的BASIS。

好,那今天我們知道說,這個A的COLUMN SPACE,它的DIMENSION就是PRIVATE COLUMN的數目,那我們之前有講過PRIVATE COLUMN的數目又等於什麼呢?PRIVATE COLUMN的數目又等於MATRIX的RATE,所以我們今天學到一件事,就是COLUMN SPACE的DIMENSION就等於MATRIX的RATE。

某一個MATRIX,你找出它的COLUMN SPACE,某一個MATRIX A,你找出它的COLUMN SPACE,再計算這個COLUMN SPACE的DIMENSION,你會發現說這個值就是MATRIX A的RANK。

所以RANK這個東西,它真的代表了非常多的意思,這邊就是再次整理一下MATRIX RANK到底有哪些含義。

我們最早第一個跟你講的是說,RANK它就是你可以找到的最大數量的INDEPENDENT的COLUMN,然後在講REEF的時候又多告訴你三件事,告訴你說RANK A它就是PRIVATE COLUMN的數目,又告訴你說RANK A它就是NONZERO ROW的數目,所謂NONZERO ROW的數目是你說REEF的NONZERO ROW的數目。

要等於如果你把A表示成一個SYSTEM OF LINEAR EQUATION,它的SOLUTION的PLACEMENT VARIABLE的數目。

現在我們今天又多學到兩件事,RANK A是什麼呢?RANK A它是MATRIX A的COLUMN SPACE的DIMENSION,RANK A它就是MATRIX A的COLUMN SPACE的DIMENSION。

我們又知道說A的COLUMN SPACE是什麼東西,A的COLUMN SPACE就是你把A當作一個LINEAR TRANSFORM的RANGE,如果你把A當作是一個LINEAR TRANSFORM,它的RANGE就是A的COLUMN SPACE。

但我們又知道說A的COLUMN SPACE的DIMENSION就是RANK,那RANGE A也是一個SUSPACE,你可以用SUSPACE的三個特性來檢查它。RANGE A它也是一個SUSPACE,它的DIMENSION就是RANK。

所以我們今天這頁投影片就列舉出種種我們到目前為止學到的RANK的,你可以想成它就是RANK的種種不同的面向,現在我們已經收集到了六個面向。

接下來我們來看一下A的NORTH SPACE,我們知道說A的NORTH SPACE就是AX等於0這個HOMOGENEOUS的SYSTEM OF LINEAR EQUATION的SOLUTION所成的集合。要找出A的NORTH SPACE的BASIS,我們剛才已經操作過N次了,就是找出這個SYSTEM OF LINEAR EQUATION的PARAMETRICS的REPRESENTATION。

找出這個PARAMETRICS的REPRESENTATION,你就找出A的NORTH SPACE的BASIS,那這個我想我們就很快的帶過去,不需要再反覆的操作。

你有一個MATRIX A,你要怎麼找出它的NORTH SPACE的BASIS呢?先做REDUCE ROW HLFORM,做完REDUCE ROW HLFORM以後,列出一個簡單的SYSTEM OF LINEAR EQUATION,接下來你再把這個SYSTEM OF LINEAR EQUATION表示成它的PARAMETRICS的REPRESENTATION。

表示成這個PARAMETRICS的REPRESENTATION以後,你發現那些跟free variable相乘的vector,那些跟free variable相乘的vector,就是NORTH SPACE的BASIS。

所以要找NORTH SPACE的BASIS,就解SYSTEM OF LINEAR EQUATION,找出它的PARAMETRICS的REPRESENTATION,就結束了。

所以我們知道說NORTH SPACE的dimension到底有多大,NORTH SPACE的dimension就等於free variable的數目,對不對,從前頁的頭頁面我們看到說有幾個free variable,free variable後面不是都會乘一個vector嗎,有幾個free variable,就有幾個vector,那個vector的數目就是NORTH SPACE的dimension的數目。

所以我們知道說NORTH SPACE,MATRIX A的NORTH SPACE它的dimension的數目,就等於A所對應的SYSTEM OF LINEAR EQUATION,它的free variable的數目。

那free variable的數目要等於什麼呢,free variable的數目就是nullity的數目,我們說A有一個REG,A有一個nullity,nullity的數目就是free variable的數目。

我們又知道說A的nullity的數目,根據它的定義,它就是n減掉rank A,n指的是那個column的數目,就假設A是一個m by n的matrix,假設A是一個m by n的matrix,那nullity A就等於n減掉rank A,或者是你可以說rank A加上nullity A會等於n。

所以我們今天學到說,假設你有一個matrix A,你可以找出它的column space,它有一個column space,假設你有一個matrix A,它有一個NORTH SPACE,我是努力的把它NULL寫出來。

然後呢,你把它們的column space跟NORTH SPACE都算出它的dimension,那dimension你會寫一個dim,那因為寫dim很麻煩,所以我就寫一個d就好了,你可以找出它們的dimension。

如果你把NORTH SPACE跟COLUMN SPACE的dimension加起來的話,你會發現什麼事呢?你會發現它的值就等於n,也就是matrix A的column的數目。

為什麼?因為COLUMN SPACE的dimension等於rank,NORTH SPACE的dimension等於nullity,根據nullity跟rank的定義,它們相加等於n,所以你會發現說COLUMN SPACE跟NORTH SPACE的dimension合起來,正好就是column的數目,也就是n。

好,那接下來最後呢,我們來看一下ROW SPACE,那ROW SPACE的basis是什麼呢?ROW SPACE有一個basis,它是當你做完reduce row H2 foam以後,當你把A這個matrix做完reduce row H2 foam以後,那些non-zero的row就是row A的basis。

舉例來說,你現在有一個隨便什麼matrix,你做完reduce row H2 foam,得到reduce row H2 foam R,然後接下來呢,你把這個non-zero的,你把zero的row拿掉,只保留三個non-zero的row,只保留三個non-zero的row,這三個non-zero的row呢,它們就是ROW SPACE的basis,就是ROW SPACE的basis。

好,為什麼可以這麼說呢?因為我們之前在講elementary row operation的時候,我們告訴你說,有一個column correspondent的theory,但是沒有row correspondent的theory,但是為了補償沒有row correspondent的theory這件事情,我們知道說,把A的row做linear combination,跟把R的row做linear combination,也就是把A的row做span,跟R的row做span,它們得到的vector space是一樣。

也就換句話說,A的row space,跟做完reduce row H2 foam以後,R的row space,這兩個row space是一模一樣,但是如果叫你直接找A的row space的basis,有點難,因為這些vector,這些row,雖然這些row做linear combination以後,做完span以後,會得到A的row space,

但是它們只是generation set,我們知道說basis是最小的generation set,你可以把generation set拿掉一些東西以後,變成basis,但是這個generation set裡面到底誰是冗員,你有時候很難一眼看出來,那怎麼辦,我們就先做reduce row H2 foam。

我們知道做完reduce row H2 foam以後,這四個row做linear combination以後,會等於R的row space,也等於A的row space,所以你知道說,這四個vector做linear combination以後,可以產生A的row space。

所以你知道說,這四個vector可以產生A的row space,但是你知道它是一個generation set,那你要拿掉哪些vector,讓它變成一個independent set,你就拿掉zero的vector就好。

如果有zero的vector在,它就不是independent,那你拿掉zero的vector以後,你會發現說,在reduce row H2 foam裡面,那些non-zero的row,它們都是independent。

所以今天R的non-zero的row,它是row A的basis,那它的dimension是多少呢,row A的row space,它的dimension是多少呢,A的row space,它的dimension會是A的reduce row H2 foam的non-zero的row的數目。

那reduce row H2 foam non-zero的row的數目又是什麼呢,它就是rank,所以這件事情還蠻神奇的,A的row space跟A的column space,它的dimension居然都是rank,居然都是rank。

所以我們又收集到了更多跟rank有關係的事情,我們剛才已經知道column space它的dimension是rank,那現在我們知道row space它的dimension居然也是rank。

這邊要注意一下,column space並不會等於row space,它們沒有道理是相等的,它們通常都不會是相等的,為什麼?

因為假設A是一個三乘以二的matrix,那你的column space是三維的vector所組成的,你的row space是二維的vector所組成的,它們根本不可能會相等。

所以通常column space並不會等於row space,這個很直覺,它們沒有什麼道理應該相等的,但是神奇的地方是這兩個不同的subspace,它們的dimension永遠是一樣的,而且都是A的rank,這是一個神奇的地方。

然後我們又知道說A的row space可以寫成A的transpose的column space,所以我們知道說A的row space的dimension等於A的transpose的column space的dimension。

那這可以告訴我們一件很重要的事情,就是A的rank跟A的transpose的rank居然是一樣的。

你可能很難想像這件事,因為rank是一個很抽象的東西,你可能很難想像說,把一個matrix A找出它最多的independent vector的數目,跟把A做transpose以後找出最多independent vector的數目,它們居然是一樣的。

所以根據剛才的說法,我們現在就可以很輕易的跟你證明說A的rank跟A的transpose的rank居然是一樣的。怎麼證呢?

我們知道說A的rank就等於A的column space的dimension,我們知道說A的rank就等於A的row space的dimension,

我們又知道說A的row space的dimension等於A的transpose的column space的dimension。A的transpose的column space的dimension等於什麼呢?等於A的transpose的rank。

因為現在我們知道說rank A等於A的column space的dimension,你現在把這個A換成A的transpose,或者是換成B,這個定理都是成立的,換成A的transpose。

現在你就知道說A的transpose它的column space的dimension會等於A的transpose的rank。

所以你就可以把這兩件事link起來,知道說A的rank居然是等於A的transpose的rank。

雖然你很難憑著直覺想像出這件事,但是證明告訴你說A的rank居然是等於A的transpose的rank。

好,那這邊有其他更多有關dimension的定理。

這邊這個rank對任何linear的function來說,rank的dimension加row space的dimension會正好等於domain的dimension。

怎麼說呢?我們先解釋一下,複習一下rank是什麼,rank就是把domain的東西通通投影到codomain上所形成的集合叫做rank。

那它是一個subspace,你可以算出它的dimension。

null space呢,null space是說在domain上有一群vector,它做完projection,通過A這個function以後,在codomain上都會掉到zero vector。

這是一個subspace,你也可以算出它的dimension。

那神奇的是說,這兩個vector subspace他們dimension的和呢,會等於domain的dimension。

然後我電腦卡住了,沒有辦法再動了。這件事會感覺還蠻神奇的地方就是,今天這個range它even還不是在domain上,它是在codomain上。

它是在另外一個vector space裡面,它根本不在domain裡面,但是domain的dimension等於null space的dimension加上range的dimension。

但是如果你用這堂課講的東西,這件事情其實也是頗直覺的。

怎麼說呢?這個range的dimension是什麼?range的dimension就是A的column space的dimension,因為range就等於A的column space。

所以range的dimension就是A的column space的dimension。

A的column space的dimension是什麼呢?就是A的rank。

那null space的dimension是什麼呢?null space的dimension就是A的nullity,A的nullity就是n減掉rank A。

那把rank A加上n減掉rank A,當然就等於n。

所以你知道說,今天你的domain的dimension會等於n,n是什麼?n是column的數目。

如果你的A是一個n by n的matrix的話,n是column的數目。

這個column的數目又是什麼呢?這個column的數目就是input domain的dimension。

如果你的column的數目是n,代表你的input domain,這個藍色的圈圈,它是rn。

我們又知道說,rn的dimension它是n為空間,rn的dimension就是n。

所以我們今天就學到說,range的dimension加上null space的dimension,會等於input的這個domain的dimension。

好,那這個就是為這堂課做一個總結。

假設A是一個n by n的matrix,那它有三個有名有姓的subspace,就是column space,null space和row space。

那我們現在這一堂課講的就分別告訴你說,它們的dimension是多少,它們的basis是多少。

好,A的column space,它的basis就是A的private column,A的private column的數目就是A的range。

null space它的basis,你就算parametric representation,你就可以找出A的null space的basis。

你會發現A的null space的dimension,正好就是nullity,也就是free variable的數目,正好就是nullity。

你可以寫成n減掉rank A。

那row A呢?row A的basis是A的reduce row atrial foam的non-zero的row。

A的reduce row atrial foam的non-zero的row,也等於rank A。

所以我們知道column space的dimension跟row space的dimension是一樣的。

那講到這邊,大家有問題要問嗎?

好,沒有的話,因為這份投影片其實也就正好到這邊了,然後想說下課時間也快到了,我們就直接在這邊下課。

謝謝,謝謝,謝謝,謝謝。