网站建设的竞争力,网站建设运维方案,推销产品的万能句子,制作做动画的网站1、矩阵范数、算子范数
矩阵无穷范数是非自相容范数#xff0c;矩阵1-范数、矩阵2-范数是自相容范数矩阵2-范数#xff1a;Frobenius范数#xff0c;是向量2-范数的自然推广。 ∥ A ∥ m 2 ∥ A ∥ F ∑ a i j ∗ a i j \|A\|_{m2}\|A\|_{F}\sqrt{\sum a_{ij}^*a_{ij}} ∥…1、矩阵范数、算子范数
矩阵无穷范数是非自相容范数矩阵1-范数、矩阵2-范数是自相容范数矩阵2-范数Frobenius范数是向量2-范数的自然推广。 ∥ A ∥ m 2 ∥ A ∥ F ∑ a i j ∗ a i j \|A\|_{m2}\|A\|_{F}\sqrt{\sum a_{ij}^*a_{ij}} ∥A∥m2∥A∥F∑aij∗aij ∥ A ∥ m 2 t r ( A H A ) A 的正奇异值的平方和 \|A\|_{m2} \sqrt{tr(A^HA)} \sqrt{A的正奇异值的平方和} ∥A∥m2tr(AHA) A的正奇异值的平方和 ∥ A ∥ m 2 ∥ U H A V ∥ m 2 ∥ U A V H ∥ m 2 \|A\|_{m2} \|U^HAV\|_{m2}\|UAV^H\|_{m2} ∥A∥m2∥UHAV∥m2∥UAVH∥m2 ∥ A ∥ m 2 ∥ U A ∥ m 2 ∥ A V ∥ m 2 ∥ U A V ∥ m 2 \|A\|_{m2} \|UA\|_{m2}\|AV\|_{m2} \|UAV\|_{m2} ∥A∥m2∥UA∥m2∥AV∥m2∥UAV∥m2 矩阵范数是相容范数则必存在向量范数与之相容。 ∣ ∣ A x ∣ ∣ ≤ ∣ ∣ A ∣ ∣ m ∣ ∣ x ∣ ∣ ||Ax||\le||A||_m ||x|| ∣∣Ax∣∣≤∣∣A∣∣m∣∣x∣∣ 证明过程构造 ∣ ∣ x ∣ ∣ ∣ ∣ x a H ∣ ∣ m ||x|| ||xa^H||_m ∣∣x∣∣∣∣xaH∣∣m矩阵的特征值一定小于等于该矩阵范数。反过来说如果矩阵的特征值大于了某个矩阵范数则该矩阵范数一定不相容。 任意向量范数则必存在矩阵范数与之相容其中放大效果的最大值称为算子范数。 算子范数再大不过向量范数的上确界鸡头始终是鸡和向量范数相容的矩阵范数终归是矩阵范数始终有 ∣ ∣ A x ∣ ∣ ≤ ∣ ∣ A ∣ ∣ m ∣ ∣ x ∣ ∣ ||Ax||\le||A||_m ||x|| ∣∣Ax∣∣≤∣∣A∣∣m∣∣x∣∣所以矩阵范数会大于算子范数。换句话说和向量范数相容的矩阵范数的下确界是算子范数。算子范数是自相容矩阵范数。 ∣ ∣ A k ∣ ∣ ≤ ∣ ∣ A ∣ ∣ k ||A^k||\le ||A||^k ∣∣Ak∣∣≤∣∣A∣∣k 常见算子范数 从属于向量1-范数的算子范数称为算子1范数极大绝对列和范数从属于向量2-范数的算子范数称为算子2范数谱范数 r ( A H A ) \sqrt{r(A^HA)} r(AHA) 从属于向量∞-范数的算子范数称为算子无穷范数极大绝对行和范数证明思路存在上界上界可达。 算子范数的性质 ∣ ∣ ⋅ ∣ ∣ ||\cdot|| ∣∣⋅∣∣是算子范数 ∣ ∣ E ∣ ∣ 1 ||E||1 ∣∣E∣∣1 ∣ ∣ A − 1 ∣ ∣ ≥ ∣ ∣ A ∣ ∣ − 1 ||A^{-1}||\ge ||A||^{-1} ∣∣A−1∣∣≥∣∣A∣∣−1 ∣ ∣ A ∣ ∣ ≥ ∣ ∣ A − 1 ∣ ∣ − 1 ||A||\ge ||A^{-1}||^{-1} ∣∣A∣∣≥∣∣A−1∣∣−1 ∣ ∣ A − 1 ∣ ∣ − 1 inf ∣ ∣ A x ∣ ∣ ∣ ∣ x ∣ ∣ m i n x ≠ 0 ∣ ∣ A x ∣ ∣ ∣ ∣ x ∣ ∣ ≤ ∣ ∣ A ∣ ∣ ||A^{-1}||^{-1} \inf \frac{||Ax||}{||x||} min_{x\ne0} \frac{||Ax||}{||x||}\le||A|| ∣∣A−1∣∣−1inf∣∣x∣∣∣∣Ax∣∣minx0∣∣x∣∣∣∣Ax∣∣≤∣∣A∣∣ ∣ λ ∣ ≤ ∣ ∣ A ∣ ∣ |\lambda|\le ||A|| ∣λ∣≤∣∣A∣∣ ∣ λ k ∣ ≤ ∣ ∣ A k ∣ ∣ |\lambda^k|\le ||A^k|| ∣λk∣≤∣∣Ak∣∣ HÖlder 范数p-范数。可以p取1和无穷。HÖlder不等式 ∣ X H Y ∣ ≤ ∑ ∣ x i ∣ ∣ y j ∣ ≤ ∥ X ∥ q ∥ Y ∥ p , 1 / q 1 / p 1 |X^HY|\le \sum|x_i||y_j| \le\|X\|_q\|Y\|_p, 1/q1/p1 ∣XHY∣≤∑∣xi∣∣yj∣≤∥X∥q∥Y∥p,1/q1/p1
2、矩阵分解
已经写过一期了见矩阵理论–矩阵分解
补充
正规矩阵A性质 A H A A A H A^HAAA^H AHAAAH λ ( A ) λ ˉ ( A H ) \lambda(A)\bar \lambda(A^H) λ(A)λˉ(AH) ∣ ∣ A x ∣ ∣ ∣ ∣ A H x ∣ ∣ ||Ax|| ||A^Hx|| ∣∣Ax∣∣∣∣AHx∣∣A的特征子空间和AH的特征子空间完全相同。A的特征子空间正交。不同特征值的特征向量必正交。A是单纯矩阵
任意矩阵A ∥ A ∥ m 2 t r ( A H A ) t r ( A A H ) \|A\|_{m2} \sqrt{tr(A^HA)} \sqrt{tr(AA^H)} ∥A∥m2tr(AHA) tr(AAH) A H A A^HA AHA和 A A H AA^H AAH的非零特征值完全相同数值相同、代数重复度相同。rank(A)rank(AH)rank(AHA)rank(AAH)。证明很重要 AHA的核空间包含A的核空间即Ax0则必有AHAx0A的核空间包含AHA的核空间即AHAx0则必有xHAHAxAx,Ax0即Ax0N(AHAx)N(A)由秩-零化度定理知rank(A)rank(AHA) A H A A^HA AHA和 A A H AA^H AAH都是半正定矩阵。A的特征值和奇异值的关系 若A为非方阵则A没有特征值。但A有奇异值。如果A为方阵则A的特征值的平方和A的奇异值的平方和。如果A为正规矩阵则A的特征值的平方和A的奇异值的平方和。因为正规矩阵酉相似于对角阵任意方阵酉相似于三角阵。
3、矩阵的估计
1、有关特征值的不等式
舒尔不等式 ∑ i 1 n ∣ λ i ∣ 2 ≤ ∣ ∣ A ∣ ∣ F 2 \sum_{i1}^{n}|\lambda_i|^2 \le ||A||_F^2 ∑i1n∣λi∣2≤∣∣A∣∣F2Hirsh不等式 ∣ λ i ∣ ≤ n ∣ ∣ A ∣ ∣ m ∞ |\lambda_i| \le n ||A||_{m_\infty} ∣λi∣≤n∣∣A∣∣m∞Bendixson不等式 ∣ I m λ i ∣ ≤ n ( n − 1 ) 2 ∣ ∣ ( A − A H ) / 2 ∣ ∣ m ∞ , A ∈ R n × n |Im\lambda_i|\le \sqrt{\frac{n(n-1)}{2}}||(A-A^H)/2||_{m_\infty},A\in R^{n\times n} ∣Imλi∣≤2n(n−1) ∣∣(A−AH)/2∣∣m∞,A∈Rn×n n(n-1)是因为实矩阵的反共轭对称分量是的对角元为0。除以2是因为实矩阵的复特征根成对出现。其余证明同Hirsh不等式 Browne不等式 σ n ≤ ∣ λ i ∣ ≤ σ 1 \sigma_n\le|\lambda_i|\le \sigma_1 σn≤∣λi∣≤σ1Hadamard不等式 ∏ i 1 n ∣ λ i ∣ ∣ det ( A ) ∣ ≤ ∏ i 1 n α i H α i \prod_{i1}^{n}|\lambda_i||\det(A)|\le \sqrt{\prod_{i1}^n\alpha_i^H\alpha_i} ∏i1n∣λi∣∣det(A)∣≤∏i1nαiHαi 施密特正交化A BRR是单位正线上三角 det ( A ) det ( B R ) det ( B ) det ( R ) det ( B ) \det(A) \det(BR)\det(B)\det(R)\det(B) det(A)det(BR)det(B)det(R)det(B)$|\det(B)|^2 |\det(B^H)\det(B)| |\det(BHB)|\prod_{i1}n b_i^Hb_i \le\prod_{i1}^n \alpha_i^H\alpha_i $ ∣ det ( A ) ∣ ≤ ∏ i 1 n α i H α i |\det(A)|\le \sqrt{\prod_{i1}^n\alpha_i^H\alpha_i} ∣det(A)∣≤∏i1nαiHαi
2、盖尔圆盘定理
关于圆盘定理1、圆盘定理2:Gerschgorin定理以及用python绘制Gerschgorin圆盘动图有的盖尔圆里面可能没有特征值盖尔圆盘连通将导致特征值函数不连续n阶矩阵A的n个圆盘均孤立则A可对角化充分不必要。n阶实矩阵A的n个圆盘均孤立则A的特征根均为实数。行严格对角占优矩阵A 若A的对角元全大于0则A的所有特征值有正实部若A的对角元全大于0且A是Hermite矩阵那么A的所有特征值均为正数。
3、Hermite矩阵的变分特征 Courant-Fischer定理Hermite矩阵的特征值估计——courant-fischer定理 Weyl定理韦尔定理 A,B均为Hermite矩阵 λ k ( A ) λ n ( B ) ≤ λ k ( A B ) ≤ λ k ( A ) λ 1 ( B ) \lambda_k(A)\lambda_n(B)\le\lambda_k(AB)\le\lambda_k(A)\lambda_1(B) λk(A)λn(B)≤λk(AB)≤λk(A)λ1(B)
4、矩阵分析 矩阵序列极限的运算规则A(k)、B(k)的极限为A、B 线性运算aA(k)bB(k) →aAbB (k → ∞)乘A(k)B(k) →AB (k → ∞)当A(k)、A均可逆的时候(A(k))-1 → A-1 (k → ∞) 用矩阵范数定义矩阵序列极限 lim k → ∞ ∣ ∣ A ( k ) − A ∣ ∣ 0 \lim_{k\to\infty}||A^{(k)}-A||0 limk→∞∣∣A(k)−A∣∣0 收敛矩阵 等价于 谱半径r(A)1 lim k → ∞ A k O \lim_{k\to\infty}A^kO limk→∞AkO称为收敛矩阵 矩阵级数绝对收敛的充要条件是正项级数 ∑ i 0 ∞ ∣ ∣ A ( k ) ∣ ∣ \sum_{i0}^{\infty}||A^{(k)}|| ∑i0∞∣∣A(k)∣∣收敛 Neumann级数EAA2A3…… (E-A)-1. r(A)1时成立 矩阵幂级数f(A)数项幂级数f(z)收敛半径为r若r(A)r则f(A)绝对收敛 矩阵函数收敛的矩阵幂级数的和S记作f(A) 收敛半径判断方法 达朗贝尔判敛法 lim n → ∞ ∣ c n 1 c n ∣ ρ {\displaystyle \lim _{n\to \infty }\left\vert {c_{n1} \over c_{n}}\right\vert \rho } n→∞lim cncn1 ρ , R 1/rho柯西判敛法 R lim inf n → ∞ ∣ c n ∣ − 1 n {\displaystyle R\liminf _{n\to \infty }\left|c_{n}\right|^{-{\frac {1}{n}}}} Rn→∞liminf∣cn∣−n1 四阶Jordan块的k次幂,特征值为a [ a k k a k − 1 k ( k − 1 ) 2 ! k k − 2 k ( k − 1 ) ( k − 2 ) 3 ! k k − 3 0 a k k a k − 1 k ( k − 1 ) 2 ! k k − 2 0 0 a k k a k − 1 0 0 0 a k ] \begin{bmatrix}a^kka^{k-1}\frac{k(k-1)}{2!}k^{k-2}\frac{k(k-1)(k-2)}{3!}k^{k-3} \\0a^kka^{k-1}\frac{k(k-1)}{2!}k^{k-2}\\00 a^kka^{k-1}\\000a^k\end{bmatrix} ak000kak−1ak002!k(k−1)kk−2kak−1ak03!k(k−1)(k−2)kk−32!k(k−1)kk−2kak−1ak
5、广义逆矩阵
逆生来就是用于解方程组的。 逆行列满秩。 单边逆左逆列满秩右逆行满秩。 求法高斯消元。 列满秩矩阵Axb 行初等变换可以得到左逆 A L − 1 A_L^{-1} AL−1。有解的充要条件 A A L − 1 b b AA_L^{-1}bb AAL−1bb唯一解 x ( A H A ) − 1 A H b A L − 1 b \Large x (A^HA)^{-1}A^HbA_L^{-1}b x(AHA)−1AHbAL−1b需要注意左逆矩阵不唯一 ( A H A ) − 1 A H (A^HA)^{-1}A^H (AHA)−1AH也是列满秩矩阵A的左逆。 行满秩矩阵 列初等变换可以得到右逆 A R − 1 A_R^{-1} AR−1。行满秩矩阵一定有解且解不唯一。自由未知数的个数为n-m A H ( A A H ) − 1 A^H(AA^H)^{-1} AH(AAH)−1是A的一个右逆。右逆矩阵不唯一。需要注意 A H ( A A H ) − 1 b ≠ A R − 1 b \large A^H(AA^H)^{-1}b {\ne} A_R^{-1}b AH(AAH)−1bAR−1b 通常情况求出来的是两个不同的解均满足Axb。这是因为行满秩矩阵Axb的解不唯一。行满秩矩阵的A是A的一个右逆。 广义逆任何矩阵都存在广义逆矩阵。 AGAA 等价于 G是A的广义逆矩阵 单边逆是广义逆的特殊情况。 Ax b有解的充要条件rank A rank (A b) 当A列满秩且rank A rank (A b) 则有唯一解。 当A非列满秩且有解则有无穷多解。 Gb x , 且Ax b则称G是A的一个广义逆。 广义逆矩阵不唯一零矩阵的广义逆矩阵是任意矩阵。 广义逆矩阵通常记作 A − A^- A−区别于 A − 1 A^{-1} A−1 广义逆矩阵的秩 大于等于 A的秩。 广义逆矩阵是逆矩阵的推广当A是可逆矩阵的时候A-A-1 广义逆矩阵有逆矩阵类似的性质 性质广义逆矩阵逆矩阵定义对于矩阵A存在矩阵B使得ABAA对于方阵A存在矩阵B使得ABBAI记号 A − A^- A− A − 1 A^{-1} A−1行为对于任意向量b满足 A A − AA^- AA−bb对于任意向量b满足 A A − 1 AA^{-1} AA−1bb矩阵乘法 A A − AA^- AA−AAAA − 1 ^{-1} −1AA矩阵的秩rank( A − A A^-A A−A)rank( A A − AA^- AA−)rank(A)rank(AA − 1 ^{-1} −1)rank(A)n满秩逆的存在广义逆存在于可逆和不可逆矩阵中逆存在于方阵可逆矩阵中唯一性广义逆可以有多个不同的解逆是唯一的幂等性 A A − AA^- AA− 、 A − A A^-A A−A是幂等矩阵 A A − 1 A − 1 A I AA^{-1}A^{-1}AI AA−1A−1AI是幂等矩阵数乘aA的广义逆为 1 a A − a ≠ 0 \frac{1}{a} A^-a\ne0 a1A−a0aA的逆为 1 a A − 1 a ≠ 0 \frac{1}{a} A^{-1}a\ne0 a1A−1a0正交投影若 ( A A − ) H A A − (AA^-)^HAA^- (AA−)HAA−则 A A − P R ( A ) AA^-P_{R(A)} AA−PR(A) A A − 1 I AA^{-1}I AA−1II是从Cn到R(A)的正交投影 自反广义逆 定义AGAA且GAGG。存在且不唯一。求法 最大秩分解法ABD A r − D R − 1 B L − 1 A_r^-D_R^{-1}B_L^{-1} Ar−DR−1BL−1构造法X、Y是A的广义逆则Z XAY是自反广义逆当然YAX也是自反广义逆。公式法X(AHA)-AHY AH(AAH)-都是自反广义逆 R(AH)R(AHA), N(A)N(AHA)存在D使得AHAHAD代入可证明AXAArank(X)rank(AH)rank(AHA) rank(AHA(AHA)-AHA)rank(AHAXA)rank(X)所以X是自反广义逆 A_是自反广义逆的充要条件是rank(A)rank(A-) 必要性AGAA且GAGG则rank(A)rank(AGA)rank(G)rank(GAG)rank(A)充分性 R(GA)属于R(G),R(GA)R(A)R(G)则R(G)R(GA)GEG则存在XGAXGAAGAAGAXAAXA由构造法知G是自反广义逆 几何性质 R ( A ) ⊕ N ( A H ) C m R(A)\oplus N(A^H)C^m R(A)⊕N(AH)Cm R ( A H ) ⊕ N ( A ) C n R(A^H)\oplus N(A)C^n R(AH)⊕N(A)Cn R ( A ) ⊕ N ( A r − ) C m R(A)\oplus N(A^-_r)C^m R(A)⊕N(Ar−)Cm R ( A r − ) ⊕ N ( A ) C n R(A^-_r)\oplus N(A)C^n R(Ar−)⊕N(A)Cn R ( A r − ) R ( A H ) R(A^-_r) R(A^H) R(Ar−)R(AH) N ( A r − ) N ( A H ) N(A^-_r) N(A^H) N(Ar−)N(AH) MP广义逆 定义AGAAGAGG(GA)HGA, (AG)HAG存在且唯一计算方法 最大值分解法 A D H ( D D H ) − 1 ( B H B ) − 1 B H A^D^H(DD^H)^{-1}(B^HB)^{-1}B^H ADH(DDH)−1(BHB)−1BH奇异值分解法 A V H D U H A^V^HD^U^H AVHDUH注意最大值分解不唯一然而最大值分解的这种乘积即A是唯一的。 A的性质 自反性(A)A唯一性 A ( A H A ) A H A H ( A A H ) D H ( D D H ) − 1 ( B H B ) − 1 B H A^(A^HA)^A^HA^H(AA^H)^D^H(DD^H)^{-1}(B^HB)^{-1}B^H A(AHA)AHAH(AAH)DH(DDH)−1(BHB)−1BH几何性质 R ( A ) R ( A H ) R(A^) R(A^H) R(A)R(AH)正交投影性 A A P R ( A ) , A A P R ( A H ) AA^P_{R(A)},A^AP_{R(A^H)} AAPR(A),AAPR(AH)行列子空间相等性R(A)R(AH)的充要条件是 A A A A A^AA^A AAAA ( A H A ) A ( A H ) A ( A A H ) A A H ( A A H ) ( A H ) (A^HA)^A^(A^H)^A^(AA^H)^AA^H(AA^H)^(A^H)^ (AHA)A(AH)A(AAH)AAH(AAH)(AH) A A ( A H A ) ( A H A ) ( A H A ) ( A H A ) A^A(A^HA)^(A^HA)(A^HA)(A^HA)^ AA(AHA)(AHA)(AHA)(AHA) 若A是Hermite矩阵 ( A 2 ) ( A ) 2 (A^2)^(A^)^2 (A2)(A)2 矩阵方程通解: AXBD有解的充要条件AA-DB-BD通解XA-DB-Y-A-AYBB-Axb有解的充要条件AA-bb通解x AA-b y-A-1Ay 相容方程组的最小范数解 相容方程组有解方程组AGAA(GA)HGAGbx是最小范数解 不相容方程组的最小二乘解 不相容方程组无解方程组AGAA,(AG)HAGGbx是最小二乘解 不相容方程组的最小二乘解有时候不够好最小二乘解的最小范数解叫最佳逼近解 最佳逼近解Abx如果方程组是相容方程组则Ab是最小范数解 关于广义逆的运算规则 ( A − ) H ( A H ) − (A^-)^H(A^H)^- (A−)H(AH)− B S A T , B − T − 1 A − S − 1 BSAT,B^-T^{-1}A^-S^{-1} BSAT,B−T−1A−S−1 ( A B ) B A (AB)^B^A^ (AB)BA的充要条件 R ( A H A B ) ⊂ R ( B ) , R ( B B H A H ) ⊂ R ( A H ) R(A^HAB)\sub R(B),R(BB^HA^H)\sub R(A^H) R(AHAB)⊂R(B),R(BBHAH)⊂R(AH)
