向量范數和矩陣范數

1、第二章 向量范數和矩陣范數,§1、向量范數,一、 向量范數的概念,，當且僅當 時，等號成立。,定義1　如果 是數域 上的線性空間，對 中的任意向量 ，都有一個非負實數 與之對應，并且具有下列三個條件（非負性、正齊性和三角不等式）：,則稱 是向量 的向量范數，稱定義了范數的線性空間 為賦范線性空間。,二、 常用的向量范數,特別地，p=1

2、時，有,在廣義實數范圍內，P能否取到正無窮大呢？具體而言，如何計算這種范數呢？,證明： 驗證 是向量范數顯然很容易。下證 。,令 ，則有,由極限的兩邊夾法則，并注意到

3、 ，即得欲證結論。,這些范數在幾何上如何理解呢？,例 7 對任意 ，對應于 四種范數的閉單位球 的圖形分別為,特別地， 范數、 范數和 范數分別為,定義的 是 上的向量范數，稱為加權范數或橢圓范數。,例 9 若矩陣

4、為Hermite正定矩陣，則由,如果 ，此時 ，這就是加權范數或橢圓范數名稱的由來。,由于 是Hermite正定矩陣，從而有可逆矩陣 ，使得 ，因此

5、 這從幾何上可以看成是求可逆變換 后的像的“長度” 。這說明 只要是列滿秩的矩陣即可。,三、 向量范數的性質,定理1 　Euclid范數是酉不變的，即對任意酉矩陣 以及任意 ，均有,這個定理的結論是顯然的，因為酉變換保持向量的內積不變，自然也保持了Euclid意義下的幾何結構（角度、長度或范數等）不變。,注意這個結論對無限維未必成立。另外，根

6、據等價性，處理向量問題（例如向量序列的斂散性）時，我們可以基于一種范數來建立理論，而使用另一種范數來進行計算。,定理2　有限維線性空間 上的不同范數是等價的，即對 上定義的任意兩種范數 ，必存在兩個任意正常數 ，使得,§2、矩陣范數,一、 矩陣范數的概念,，當且僅當 時，等號成立。,定義1　 對 中的任意矩陣 ，都有一個非負實數

7、與之對應，并且具有下列三個條件（非負性、正齊性和三角不等式）：,則稱 是矩陣 的（廣義）矩陣范數。,例 1 對任意 ，由,定義的 是 上的矩陣范數，稱為 范數。,例 2 對任意 ，由,定義的 是

8、 上的（廣義）矩陣范數，稱為 范數。,例 3 對任意 ，由,定義的 是 上的矩陣范數，稱為 范數，Euclid 范數或Frobenius范數(F—范數)。,二、 算子范數和范數的相容性,實際中，從算子或變換的角度來定義范數更加有用。,定義2　 對 中的任意矩陣 ，用一個非負實數

9、 表示對于任意向量 ， 可以“拉伸”向量 的最大因子，即使得不等式成立的最小的數 。稱 為范數 和 誘導出的矩陣范數或算子范數。,由矩陣范數的正齊性可知 的作用是由它對單位向量的作用所決定，因此可以等價地用單位向量在 下的像來定義矩陣范數，即,而且考慮到矩陣乘法的重要地位，因此討論矩陣范數時一般附加“范數相容性”條件（這里的范數一般要求是同類的

10、）：,注意到即,可以證明，前面給出的矩陣范數 都滿足“相容性條件”，即成立,但是矩陣范數 不滿足“相容性條件”。例如對于矩陣,就有,在“相容性條件”中，如果 而且范數 與范數 相同時，如果有則稱矩陣范數

11、 與向量范數 是相容的。,定理1　 上的矩陣F-范數與 上的向量2-范數相容。,證明：,根據算子范數的定義，當向量范數 分別為 時，我們可誘導出相應的相容矩陣范數 。,設任意矩陣 ，則1-范數單位球,在 下的像中的任意向量

12、 滿足,從而,如果 ，則選取 ，此時由 ，得,因此,類似地可得，,實際上，這些誘導矩陣范數具有如下的表示定理。,定理2　 對 中的任意矩陣 ，有,最大列和,最大行和,最大譜,證明：,所以 是半正定Hermite矩陣,因此特征值全部為非負實

13、數。設為,并設對應的兩兩互相正交且2-范數都為1的特征向量為 ，那么，對于任意的單位2-范數向量 ，必成立,由于,因此有,所以,因此成立,另外，由于 ，而且,同樣給出這些范數在幾何上的理解。,例 1 對應于 三種向量范數的閉單位球

14、 在矩陣作用下的效果分別為,定理3　 上的譜范數具有下列性質：,三、矩陣范數的一些性質,(1),設有 使 ，令 ，則有,證明：,(2),(3),設有

15、 使 ，則,定理4　 上的矩陣F--范數和譜范數都是酉不變的，即對任意酉矩陣 ，恒有,令,則,即,對于譜范數的情形，利用定義即可。,對于譜范數， 這個定理的結論可以推廣到列正交酉矩陣，即的情形，此時仍然成立,利用定理3可以證明這個推廣結論。,§3、 范數的應用,一、譜半徑與矩陣范數,定義1　 設 的特征值為

16、 ，稱為矩陣 的譜半徑。,關于譜半徑，最著名的莫過于下面的定理。,定理1　 對 的任意矩陣范數 ，恒有,特別地，當 是正規(guī)矩陣時，等號成立。,設 為 的任意特征對，則,從而 ，即得,當 是正規(guī)陣時，有特征值分解,從而,由于已證

17、 ，故結論成立。,證明：,定理2　 對 ，存在 上矩陣范 ，對任意 ，恒有,對任意矩陣 ，存在Jordan標準型,其中 ，,證明：,令

18、 ，則,從而,易證函數 是 上的矩陣范數，這里,二、矩陣逆和線性方程組解的擾動分析,如果系數矩陣和常數項分別有一個擾動,則擾動后的線性方程組為,它的精確解為,顯然，由于原方程組本身的固有性質導致原始數據的小擾動引起解的很大變化，我們稱這樣的問題是病態(tài)的（敏感的）或不穩(wěn)定的；否則，我們稱問題是良態(tài)的（不敏感的）或穩(wěn)定的。,證

19、明：,引理1　 對 ，若 ，則矩陣 非奇異，且,所以 的特征值,從而 的特征值 均不為零，因此 非奇異。,從而結論成立。,定理3　 設 均非奇異，則,證明：,定理4　 設

20、 非奇異，且 。如果 擾動矩陣 滿足條件,則擾動后的矩陣 為非奇異矩陣，并且,其中，,證明：,由于 ，由引理1知 非奇異，因此 也非奇異，且,定義2　 對非奇異的

21、 ，稱數為矩陣 關于求逆的條件數。,定理5 設 非奇異，且 。如果 擾動矩陣 滿足條件,則非齊次線性方程組 經過擾動后的方程組有唯一解 ，并且,因此 也稱為求解線性方程組的條件數。,證明：,由于 ，則,由 定理4知 非奇異，