第二章 向量空間

標籤：

1.向量空間和子空間

:包含所有n維的列向量（之所以使用R：列向量的元素都是實數）

在所有向量空間內都支援的操作：

 

實數向量空間：

8個規則：

用的較多的還是向量空間和子空間的定義，即乘法和加法的結果仍在集合內。子空間也是向量空間

相反的方面，若一個集合不能構成向量空間，則這個集合的元素相加或相乘的結果可能不在這個集合內。

子空間：

零向量是任何向量空間的子空間。

最小的子空間僅由一個向量構成：0向量。稱作0維空間。向量空間不允許是空集。

最大的子空間就是原始的向量空間本身。

3維空間的子空間：

子空間可以縮小維度（由），但實質都是從原始空間點集抽出的一個子集和，集合中的元素都來自原創組合。

 

列向量空間：

注意向量空間的原子是‘列‘（概念上的列，列實際可以是各種形式，如一個函數，一個矩陣）。

 

方程解與列向量空間的聯絡：

對於

Ax = b can be solved if and only if b lies in the plane that is spanned（標定） by the two column vectors .這個plane就是A的列向量空間，同時也是的子空間（過0點）。這個plane是的子空間的證明 p89

C（A）：A的列向量空間，是的子空間，證明p89。注意是我們討論各種問題所在的全集，就類似與1屬於自然數n這種關係。

N（A）：A的nullspace，是的子空間,證明：

x+x‘在nullspace內，cx也在nullspace內，所以x的全集是的子空間

注意一開始用舉線性組合的例子，A裡只有兩列(這種情況就高斯消元法來講一定是奇異的情況，pivots個數不夠)

Nullspace:

注意：之前說的向量空間都是由b直接構成，nullspace似乎不是這樣，它是由構成0向量空間的線性組合的係數構成的，有點區別

瞭解C(A)和N(A)的目的：

 

 

問題集合：

1. [??]給出一個或者幾個元素，求包含這幾個元素的最小向量空間 problem set2.1 14
2. 的子空間由四種類型：本身，面，線，零。

3. [??]B的列向量空間已經和A的不同了，列向量空間和解是什麼關係呢？C的列向量空間仍和A一致。

   列向量空間和nullspace的關係，進一步和complete solution的關係，見一下節，在解方程的時候做基本變換雖然改變了列向量空間，但是解是沒有變的。

   4.a能由兩個向量唯一確定，但是不能由三個向量唯一確定

   .

   c和d可以確定任意多個向量如e和e‘,e在和b確定a.

   除非b在A的向量空間內，由上面第二圖可知，添加了一個仍在A的向量空間內的d仍是可解的。

4. 可逆等同於非奇異，非奇異等同於矩陣列向量相互獨立（線性無關），則可逆矩陣的線性空間是

 

2.解Ax=0和Ax=b

1. 對於可逆矩陣來說，Ax=0的解只有x=0,Ax=b對於任意b都有解。當nullspace裡出現了非零解或者A的列向量空間小於是我們這節要處理的情況。

   梯隊形式（echelon form）：

   因為我們使用消元法獲得U，將之按照相反的過程還原，自然可以得到原來的矩陣A，因此：

   L是方陣，行數等於A和U的行數

   PA=LU是一般形式：

   擷取R: 1.將U的pivots化成0 2.從下往上將pivots正上方的元素化成0，如下：

   * matlab裡擷取R R=rref(A)，對於可逆矩陣，R=I

   上章中是PA=LDU，Gauss-Jordan方法中[A I]->[U L逆]->[I A逆]，涉及A->U,pivots上方元素化0等，求R的方法和這兩個方法神似。

   R still contains an identity matrix.in the pivot rows and pivot columns.

   Rx=0 Ux=0 Ax=0 具有相同的解。

   pivot variables: variables(in vector x) correspond to columns with pivots

   Free variables: variables(in vector x) correspond to columns without pivots

   從下面可以看出，在對x的表示中pivot varialbes全部由free variables表示了。而free variables之所以叫free variables，是因為這些變數是可以任意取值的。

   運用R求Ax=0:

   Special solutions for Ax=0:就是③中右側的每一列是一個special solutions.

   A的nullspace可以看成special solutions的combination的集合

   在上例中，A的nullspace是 2維 的向量空間。

   注意：仔細觀察，special solutions的個數等於free variables的個數

   對於A（m by n,n>m）來說，至少有n-m個free variables.

   一個非常重要的結論：

   從解Rx=0的過程可知，每多出一個free variables,就會多出一個special solution,對於A（m by n,n>m）來說，至少有n-m個free variables，這也是得出2C的原因。又因為free variables可以任意取值，所以解的個數是無限個。

   Solving Ax = b, U x = c, and Rx = d

   和Ax=0中不同的一點：即使n>m（more unkonwns than equations）,也不一定有解。主要是方程右邊的b!=0造成了方程的平行（b=0的時候方程重合）。

   講解這個問題的順序：先找到一個使方程有解的b,主要使用了b應該在列向量空間的方法。使用與上節相同的方法找到方程的解（利用free variables和pivot variables）得出結論。

2. 求Ax=b:

   結論：

   Every solution to Ax = b is the sum of one particular solution and a solution to Ax = 0:

   關於，可以將b看成0+b,按照上節方法b=0的部分的解為，b=b的部分的解為。。（由現象到結論，這是一種推廣）

   當b=0時也有特解，只不過特解是0.

   將Ax=b化成Rx=d之後就可以直接得出結論，注意這個方法，連同上一節的直接擷取結果的方法：

   D中值對應到pivot variable對應位置的特解，特解中free variable對應位置為0.free variable對應到special solution裡。

   Rank of the matrix: 矩陣的秩

   You see how the rank r is crucial. It counts the pivot rows in the "row space" and the

   pivot columns in the column space. There are n − r special solutions in the nullspace.

   There are m − r solvability conditions on b or c or d（之所以這麼說，是因為剩下的m-r行決定方程是否有解）.

   問題集合：

   1.

   方程無解的時候仍可以有nullspace,此時有Xn但是無Xp.

   2.

   ans:

   3.

   也就是說pivot columns所在的列是線性無關的列

   4.[??]

   小於A好證（AB的結果是A的線性組合，逃不出A所在的‘plane‘），小於B呢？

   5.注意若AB=I,在AB不為方陣的時候也可以成立，定義左逆右逆的公式中都是指的方陣,不是方陣的情況下左逆不等於右逆（維數都不相同），逆的定義中是同時滿足左逆右逆才叫逆。

   6.

   7.[!!]

   8. A system Ax=b has at most one particular solution:錯。它的任意解都可以認做是一個特解。只要Xp+Xn=X成立就可以。

   9.解的情況大概也就這麼多了

   （a）rows>rank(A),columns=rank(A) (b).rows=rank(A),columns>rows (c)rows>rank(A)，columns>rank(A) (d) invertible

   10.

   用上面的結論很容易就可以做出來：（a）秩為2且有解即是 （b）秩小於列數，無解或無限解。

   11.

   方程組相交成點，方程組中沒有未知量，相交成線，有一個未知量，因此秩是3.

   （b）

   12. 處於後列的pivot variable是無法使用處於前列的free variable的。

   13.why does no 3 by 3 matrix have a nullspace that equals its column space

   可逆時：nullspace只有一個元素，column space為

   秩為2時：nullspace是線，column space是面

   秩為1時：nullspace是面，column space是線

第二章 向量空間