3.9 Schur 引理与正规矩阵#

定义 3.9.1（酉相似）#

设

$$ A,B\in\mathbb C^{n\times n} \quad\text{（或 }\mathbb R^{n\times n}\text{）}. $$

若存在

$$ U\in U_{n\times n} \quad\text{（或 }E_{n\times n}\text{）}, $$

使得

$$ U^H A U=U^{-1}AU=B, $$

则称 $A$ 与 $B$ 酉相似，或称 $A$ 酉相似于 $B$ 。

几何意义：重新选取标准正交坐标系，并简化表示矩阵。书写习惯代表了观察问题的视角。

定理 3.9.1（Schur 引理）#

任何一个 $n$ 阶复矩阵 $A$ 都酉相似于一个上三角矩阵（或下三角矩阵）。

注：

  1. 几何意义：任意线性变换都能通过重新选取标准正交坐标系来简化表示矩阵，最多只需保留 $ \frac{n(n+1)}2 $ 个非零元素。
  2. 三角矩阵主对角线上的元素是矩阵 $A$ 的全部特征值。
  3. 思考：正交相似是否也有类似结论？
  4. Schur 分解的数值稳定性优于 Jordan 分解。

证明方法一#

由 Jordan 分解，存在可逆矩阵 $P$ ，使

$$ A=PJP^{-1}. $$

对 $P$ 作 QR 分解：

$$ P=QR. $$

代入可得

$$ A=Q(RJR^{-1})Q^H. $$

其中 $RJR^{-1}$ 为上三角矩阵。

证明方法二#

使用数学归纳法。$A$ 的阶数为 $1$ 时结论显然成立。假设阶数为 $k-1$ 时成立，再考虑阶数为 $k$ 的情况。

原课件在此页只列出归纳证明的起点，没有继续展开。

定理 3.9.3（Schur 不等式）#

设 $A=(a_{ij})\in\mathbb C^{n\times n}$ ，$\lambda_1,\lambda_2,\ldots,\lambda_n$ 为 $A$ 的特征值，则

$$ \sum_{i=1}^n|\lambda_i|^2 \le \sum_{i,j}|a_{ij}|^2. $$

证明：矩阵 Frobenius 长度的平方为

$$ \operatorname{tr}(A^H A)=\sum_{i,j}|a_{ij}|^2. $$

根据 Schur 分解，设 $A=URU^H$ ，其中 $U$ 为酉矩阵、$R$ 为上三角矩阵，则

$$ \begin{aligned} \operatorname{tr}(A^H A) &=\operatorname{tr}(UR^H U^HURU^H)\\ &=\operatorname{tr}(UR^H R U^H)\\ &=\operatorname{tr}(U^HUR^H R)\\ &=\sum_{i=1}^n|\lambda_i|^2+sum|*|^2\\ &\ge\sum_{i=1}^n|\lambda_i|^2. \end{aligned} $$

定义 3.9.2（正规矩阵）#

设 $A\in\mathbb C^{n\times n}$ 。若

$$ A^H A=AA^H, $$

则称 $A$ 为正规矩阵。

设 $A\in\mathbb R^{n\times n}$ 。若

$$ A^T A=AA^T, $$

则称 $A$ 为实正规矩阵。

例 3.9.1#

对角矩阵、Hermite 矩阵、反 Hermite 矩阵、酉矩阵都是正规矩阵。

引理 3.9.1#

设 $A$ 是正规矩阵，则与 $A$ 酉相似的矩阵也都是正规矩阵。

引理 3.9.2#

设 $A$ 是正规矩阵，且 $A$ 是上三角矩阵，则 $A$ 是对角矩阵。

定理 3.9.4（正规矩阵的结构定理）#

设 $A\in\mathbb C^{n\times n}$ 。则 $A$ 是正规矩阵，当且仅当存在酉矩阵 $U\in U_{n\times n}$ ，使

$$ U^H A U= \operatorname{diag}(\lambda_1,\lambda_2,\ldots,\lambda_n), $$

其中 $\lambda_1,\lambda_2,\ldots,\lambda_n$ 是 $A$ 的特征值。

几何意义：正规矩阵所表示的线性变换可以在某个标准正交基下表示为对角矩阵。

推论（标准内积意义下）#

  1. $n$ 阶正规矩阵有 $n$ 个线性无关的特征向量。
  2. $n$ 阶矩阵 $A$ 是正规矩阵的充分必要条件是：$A$ 有 $n$ 个彼此正交的特征向量。
  3. 正规矩阵属于不同特征值的特征向量彼此正交。

推论 4#

设 $A$ 是正规矩阵，则：

  1. $A$ 是 Hermite 矩阵，当且仅当 $A$ 的特征值都是实数。
  2. $A$ 是反 Hermite 矩阵，当且仅当 $A$ 的特征值实部都为零。
  3. $A$ 是酉矩阵，当且仅当 $A$ 的特征值模长都为 $1$ 。

正规矩阵并不只包含上述三类。

推论 5#

设 $A=(a_{ij})\in\mathbb C^{n\times n}$ ，$\lambda_1,\ldots,\lambda_n$ 为 $A$ 的特征值。则 $A$ 是正规矩阵，当且仅当 Schur 不等式取等号：

$$ \sum_{i=1}^n|\lambda_i|^2#

\sum_{i,j}|a_{ij}|^2. $$

例#

设 $A$ 是 $n$ 阶正规矩阵。若存在某个自然数 $k$ ，使

$$ A^k=0, $$

证明 $A=0$ 。

由正规矩阵结构定理，$A$ 酉相似于对角矩阵。$A^k=0$ 说明所有特征值的 $k$ 次幂均为零，因此全部特征值为零，从而 $A=0$ 。

注：原课件的定理编号从 3.9.1 跳至 3.9.3，未出现 3.9.2；本稿保留原编号。

3.10 Hermite 二次型#

Hermite 矩阵的基本性质#

设 $A\in\mathbb C^{n\times n}$ ，则：

  1. $A+A^H$ 、$AA^H$ 、$A^H A$ 是 Hermite 矩阵。
  2. $A-A^H$ 是反 Hermite 矩阵。
  3. 如果 $A$ 是可逆 Hermite 矩阵，则 $A^{-1}$ 也是 Hermite 矩阵。
  4. 如果 $A$ 是 Hermite 矩阵，则 $A^k$ 也是 Hermite 矩阵，其中 $k$ 为任意正整数。
  5. 如果 $A$ 是 Hermite 矩阵（反 Hermite 矩阵），则 $iA$ 是反 Hermite 矩阵（Hermite 矩阵），其中 $i$ 为虚数单位。
  6. 如果 $A,B$ 都是 Hermite 矩阵，则 $kA+lB$ 也是 Hermite 矩阵，其中 $k,l$ 均为实数。
  7. 如果 $A,B$ 都是 Hermite 矩阵，则 $AB$ 也是 Hermite 矩阵的充分必要条件是 $ AB=BA. $

注：$n$ 阶 Hermite 矩阵全体构成 $\mathbb R$ 上的线性空间，但不构成 $\mathbb C$ 上的线性空间。

定理 3.10.1（Hermite 矩阵的结构定理）#

设 $A\in\mathbb C^{n\times n}$ 。则 $A$ 是 Hermite 矩阵的充分必要条件是：存在酉矩阵 $U\in U_{n\times n}$ ，使

$$ U^H A U= \operatorname{diag}(\lambda_1,\lambda_2,\ldots,\lambda_n), \qquad \lambda_i\in\mathbb R. $$

推论：实对称矩阵正交相似于实对角矩阵。

问题：如何求 $U$ 和对角规范形？

例 3.10.1（Hermite 幂等矩阵）#

设 $A\in\mathbb C^{n\times n}$ 为 Hermite 矩阵，且 $A^2=A$ 。则存在酉矩阵 $U\in U_{n\times n}$ ，使

$$ U^H A U= \begin{bmatrix} I_r&0\\ 0&0 \end{bmatrix}. $$

正交投影算子

$$ P_S=\Phi(\Phi^H\Phi)^{-1}\Phi^H $$

满足这一关系。幂等性说明它是投影变换；Hermite 对称性说明该投影是正交的，即核空间（沿着投影的方向，对应特征值 $0$ ）与值域（$\Phi$ 的列向量张成空间，对应特征值 $1$ ）正交。

引理 3.10.1#

若

$$ B^H=-B, $$

且对任意 $x\in\mathbb C^n$ 都有

$$ x^H Bx=0, $$

则 $B=0$ 。

定理 3.10.2#

设 $A\in\mathbb C^{n\times n}$ ，则以下命题等价：

  1. $A$ 是 Hermite 矩阵。
  2. 对任意 $X\in\mathbb C^n$ ， $ X^H AX\in\mathbb R. $ 这解释了为什么正定性只对 Hermite 矩阵定义：二次型取实值是与 $0$ 比较大小的必要条件。
  3. 对任意 $B\in\mathbb C^{n\times n}$ ，$B^HAB$ 是 Hermite 矩阵。

定义 3.10.2（Hermite 二次型）#

由 $n$ 个复变量 $x_1,x_2,\ldots,x_n$ 组成、系数为复数的二次齐次多项式

$$ f(x_1,x_2,\ldots,x_n) =\sum_{i=1}^n\sum_{j=1}^n a_{ij}\overline{x_i}x_j $$

称为 Hermite 二次型，其中

$$ a_{ij}=\overline{a_{ji}}. $$

若 $a_{ij}=0$ （$i\ne j$ ），则称其为 Hermite 二次型的标准形。

记

$$ X=[x_1,x_2,\ldots,x_n]^T\in\mathbb C^n, $$ $$ A= \begin{bmatrix} a_{11}&a_{12}&\cdots&a_{1n}\\ a_{21}&a_{22}&\cdots&a_{2n}\\ \vdots&\vdots&\ddots&\vdots\\ a_{n1}&a_{n2}&\cdots&a_{nn} \end{bmatrix}, $$

则

$$ f(x_1,x_2,\ldots,x_n)=X^H AX. $$

对 Hermite 二次型作可逆线性变量代换

$$ X=CY, \qquad C\in\mathbb C^{n\times n},\quad |C|\ne0, $$

则

$$ X^H AX=Y^H(C^HAC)Y. $$

定义 3.10.3（Hermite 二次型的规范形）#

设 $\operatorname{rank}(A)=r$ ，规范形写作

$$ f(x_1,x_2,\ldots,x_n) =X^H AX =X^H \begin{bmatrix} I_p&0&0\\ 0&-I_{r-p}&0\\ 0&0&0_{n-r} \end{bmatrix} X. $$

定理 3.10.3#

对任意 Hermite 二次型

$$ f(x_1,x_2,\ldots,x_n)=X^H AX, $$

有：

  1. 必存在酉变换 $X=UY$ ，使 $ f=Y^H(U^HAU)Y $ 为标准形。
  2. 必存在可逆线性变换 $X=PY$ ，使 $ f=Y^H(P^HAP)Y $ 为规范形。

课件用 $x\in\mathbb R^2$ 时的鞍形曲面示意含正、负平方项的二次型。

定义 3.10.4（正定、正半定）#

设 $A^H=A$ ，给定 Hermite 二次型

$$ f(x_1,x_2,\ldots,x_n)=x^H Ax. $$

若对任意 $x\in\mathbb C^n$ ，

$$ x^H Ax\ge0, $$

则称该 Hermite 二次型为正半定的，称 $A$ 为正半定矩阵，记作 $A\ge0$ 。

若进一步

$$ x^H Ax=0\iff x=0, $$

则称该 Hermite 二次型为正定的，称 $A$ 为正定矩阵，记作 $A>0$ 。

若两个 $n$ 阶 Hermite 矩阵 $A,B$ 满足 $A-B>0$ ，也常记作 $A>B$ ；这等价于

$$ x^H Ax>x^H Bx, \qquad \forall x\ne0. $$

定理 3.10.4（正定的等价条件）#

设 $A\in\mathbb C^{n\times n}$ 且 $A^H=A$ ，则以下命题等价：

  1. $A$ 正定。
  2. 对任何 $n$ 阶可逆矩阵 $P$ ，$P^HAP$ 都是正定矩阵。（思考：对任意列满秩矩阵 $P$ 又如何？）
  3. $A$ 的 $n$ 个特征值都大于零。
  4. 存在 $n$ 阶酉矩阵 $U$ ，使 $ U^HAU=\operatorname{diag}(\lambda_1,\lambda_2,\ldots,\lambda_n), \qquad \lambda_i>0. $
  5. 存在 $n$ 阶可逆矩阵 $Q$ ，使 $ A=Q^HQ. $
  6. 存在 $n$ 阶可逆矩阵 $P$ ，使 $ P^HAP=I. $
  7. 存在对角元素为正的上三角矩阵 $R$ ，使 $ A=R^HR, $ 且此分解唯一。
  8. 存在唯一的正定 Hermite 矩阵 $H$ ，使 $A=H^2$ ；并且若 $B\in\mathbb C^{n\times n}$ 与 $A$ 可交换，则 $B$ 与 $H$ 也可交换。
  9. $A$ 的所有顺序主子式都大于零。
  10. $A$ 的所有主子式都大于零。

定理 3.10.5（正半定的等价条件）#

设 $A\in\mathbb C^{n\times n}$ 且 $A^H=A$ ，则以下命题等价或具有课件标出的相应关系：

  1. $A$ 正半定。
  2. 对任何 $n$ 阶矩阵 $P$ ，$P^HAP$ 都是正半定矩阵。
  3. $A$ 的 $n$ 个特征值都大于等于零。
  4. 存在 $n$ 阶酉矩阵 $U$ ，使 $ U^HAU=\operatorname{diag}(\lambda_1,\lambda_2,\ldots,\lambda_n), \qquad \lambda_i\ge0. $
  5. 存在秩为 $r$ 的 $n$ 阶矩阵 $Q$ ，使 $ A=Q^HQ, $ 其中 $Q$ 不一定可逆。
  6. 若 $\operatorname{rank}(A)=r$ ，则存在 $n$ 阶可逆矩阵 $P$ ，使 $ P^HAP= \begin{bmatrix} I_r&0\\ 0&0_{n-r} \end{bmatrix}. $
  7. 存在上三角矩阵 $R$ ，使 $ A=R^HR, $ 但 $R$ 不一定“正线”，也不一定唯一。
  8. 存在唯一正半定 Hermite 矩阵 $H$ ，使 $A=H^2$ ；若 $B$ 与 $A$ 可交换，则 $B$ 与 $H$ 也可交换。
  9. “顺序主子式都大于等于零”是必要条件，但不充分。
  10. $A$ 的所有主子式都大于等于零。

第 9 条的反例：

$$ A=\begin{bmatrix}0&0\\0&-1\end{bmatrix}. $$

其顺序主子式为 $0,0$ ，均大于等于零，但 $A$ 不是正半定矩阵。

思考：

  • 实对称矩阵的情况如何？
  • 负定矩阵的情况如何？对负定矩阵，顺序主子式负、正相间，且要注意顺序。

注#

  1. 特征分解说明任何刚体都有相互垂直的惯性主轴。
  2. 正半定且可逆必为正定。
  3. 可通过重新选基使内积度量矩阵为 $I$ ，即同构到 $\mathbb C^n$ 后，内积在形式上表现为标准内积。
  4. 若 $A$ 为实对称矩阵，$x,P$ 均在实空间中讨论，$U$ 为正交矩阵，并把 $H$ 换为 $T$ ，上述结论仍成立。关键在于实对称矩阵的特征值、特征向量都是实数。
  5. 三角分解常用于数值计算，因为非零元素少且可保持半正定性。
  6. 由 $ (A-B)^H(A-B)\ge0 $ 可得 $ A^HA+B^HB\ge A^HB+B^HA. $

3.11 分块矩阵的正定性、Schur 补和 LMI#

定理 3.11.1（分块对角矩阵）#

设分块对角矩阵

$$ A= \begin{bmatrix} A_{11}&0\\ 0&A_{22} \end{bmatrix}, \qquad A_{11}\in\mathbb C^{p\times p}, \quad A_{22}\in\mathbb C^{r\times r}, $$

且 $A_{11},A_{22}$ 均为 Hermite 矩阵。则

$$ A>0\ (A<0) $$

的充分必要条件是

$$ A_{11}>0\ (A_{11}<0), \qquad A_{22}>0\ (A_{22}<0). $$

定理 3.11.2（有界实引理／Schur 补判定）#

设 Hermite 矩阵

$$ A= \begin{bmatrix} A_{11}&A_{12}\\ A_{12}^H&A_{22} \end{bmatrix} \in\mathbb C^{n\times n}, $$

其中 $A_{11}^H=A_{11}$ 、$A_{22}^H=A_{22}$ 。则下列条件等价：

  1. $A>0$ （或 $A<0$ ）；
  2. $A_{11}>0$ （或 $A_{11}<0$ ），且 $ A_{22}-A_{12}^H A_{11}^{-1}A_{12}>0 \quad\text{（或 }<0\text{）}; $
  3. $A_{22}>0$ （或 $A_{22}<0$ ），且 $ A_{11}-A_{12}A_{22}^{-1}A_{12}^H>0 \quad\text{（或 }<0\text{）}. $

注：

  • 实对称矩阵情形也成立。
  • 在 LMI 中，常使用“条件 (2) 或 (3) 推出条件 (1)”的形式，把非线性矩阵不等式转化为 LMI。

定义 3.11.1（Schur 补）#

对 Hermite 矩阵

$$ A= \begin{bmatrix} A_{11}&A_{12}\\ A_{12}^H&A_{22} \end{bmatrix}, $$

若 $A_{11}$ 可逆，则称

$$ A_{22}-A_{12}^HA_{11}^{-1}A_{12} $$

为 $A_{11}$ 在 $A$ 中的 Schur 补，记作 $\Delta(A_{11})$ 。

对一般分块方阵

$$ A= \begin{bmatrix} A_{11}&A_{12}\\ A_{21}&A_{22} \end{bmatrix}, $$

若相应的逆存在，则

$$ \Delta(A_{11})=A_{22}-A_{21}A_{11}^{-1}A_{12}, $$ $$ \Delta(A_{22})=A_{11}-A_{12}A_{22}^{-1}A_{21}. $$

分块消元#

设 $A,A_{11},A_{22}$ 均可逆，则

$$ \begin{bmatrix} I&0\ -A_{21}A_{11}^{-1}&I \end{bmatrix} \begin{bmatrix} A_{11}&A_{12}\ A_{21}&A_{22} \end{bmatrix} \begin{bmatrix} I&-A_{11}^{-1}A_{12}\ 0&I \end{bmatrix}#

\begin{bmatrix} A_{11}&0\ 0&\Delta(A_{11}) \end{bmatrix}, $$

以及

$$ \begin{bmatrix} I&-A_{12}A_{22}^{-1}\ 0&I \end{bmatrix} \begin{bmatrix} A_{11}&A_{12}\ A_{21}&A_{22} \end{bmatrix} \begin{bmatrix} I&0\ -A_{22}^{-1}A_{21}&I \end{bmatrix}#

\begin{bmatrix} \Delta(A_{22})&0\ 0&A_{22} \end{bmatrix}. $$

由此可以计算分块矩阵的行列式与逆。

分块矩阵的逆#

若 $\Delta(A_{11})$ 可逆，则

$$ A^{-1}= \begin{bmatrix} A_{11}^{-1}+A_{11}^{-1}A_{12}\Delta(A_{11})^{-1}A_{21}A_{11}^{-1} &-A_{11}^{-1}A_{12}\Delta(A_{11})^{-1}\\ -\Delta(A_{11})^{-1}A_{21}A_{11}^{-1} &\Delta(A_{11})^{-1} \end{bmatrix}. $$

若 $\Delta(A_{22})$ 可逆，则

$$ A^{-1}= \begin{bmatrix} \Delta(A_{22})^{-1} &-\Delta(A_{22})^{-1}A_{12}A_{22}^{-1}\\ -A_{22}^{-1}A_{21}\Delta(A_{22})^{-1} &A_{22}^{-1}+A_{22}^{-1}A_{21}\Delta(A_{22})^{-1}A_{12}A_{22}^{-1} \end{bmatrix}. $$

定理 3.11.3（矩阵求逆引理）#

设 $A,A_{11},A_{22}$ 均可逆，且

$$ A= \begin{bmatrix} A_{11}&A_{12}\\ A_{21}&A_{22} \end{bmatrix}. $$

则

$$ \begin{aligned} &(A_{11}-A_{12}A_{22}^{-1}A_{21})^{-1}\\ &\quad=A_{11}^{-1} +A_{11}^{-1}A_{12} (A_{22}-A_{21}A_{11}^{-1}A_{12})^{-1} A_{21}A_{11}^{-1}, \end{aligned} $$

且

$$ \begin{aligned} &A_{11}^{-1}A_{12} (A_{22}-A_{21}A_{11}^{-1}A_{12})^{-1}\\ &\quad=(A_{11}-A_{12}A_{22}^{-1}A_{21})^{-1} A_{12}A_{22}^{-1}. \end{aligned} $$

应用包括：递归降阶解方程、递推最小二乘、Kalman 滤波和卫星星座布设。

秩一更新的一个常用形式为

$$ (\Phi^T\Phi+\varphi\varphi^T)^{-1} =(\Phi^T\Phi)^{-1} -\frac{(\Phi^T\Phi)^{-1}\varphi\varphi^T(\Phi^T\Phi)^{-1}} {1+\varphi^T(\Phi^T\Phi)^{-1}\varphi}. $$

应用：MIMO 系统的等效与化简#

课件给出负反馈控制系统方块图：参考输入 $R$ 经误差节点、控制器 $C(s)$ 和对象 $P(s)$ 得到输出 $Y$ ；输出反馈到误差节点，扰动 $D$ 在对象前叠加。

在线性定常系统中，取 $D=0$ ：

$$ Y=P(s)U, \qquad U=C(s)E, \qquad E=R-Y. $$

于是

$$ y=(I+PC)^{-1}PCr. $$

利用矩阵求逆引理／推移恒等式，也可写成

$$ y=P(I+CP)^{-1}Cr. $$

二者相同。

3.12 Hermite 矩阵偶同时共轭合同对角化#

定理 3.12.1#

设 $A,B$ 为 $n$ 阶 Hermite 矩阵，且 $B>0$ 。则存在可逆矩阵 $T\in\mathbb C^{n\times n}$ ，使

$$ T^HAT=\operatorname{diag}(\mu_1,\mu_2,\ldots,\mu_n)=M $$

与

$$ T^HBT=I $$

同时成立。其中 $\mu_1,\mu_2,\ldots,\mu_n$ 是与 $T$ 无关的实数，是

$$ |\lambda B-A|=0 $$

的根。

证明：

  1. $|\lambda B-A|=0$ 的根都是实数。存在可逆矩阵 $P$ ，使 $ P^HBP=I, \qquad P^HAP=(P^HAP)^H. $ 再由 Hermite 矩阵的结构定理，存在酉矩阵 $U$ ，使 $ U^HP^HAPU=\operatorname{diag}(\mu_1,\ldots,\mu_n), \qquad \mu_i\in\mathbb R, $ 且 $ U^HP^HBPU=I. $
  2. 取 $ T=PU. $

进一步思考#

设 $A,B$ 为 $n$ 阶 Hermite 矩阵。若

$$ B\ge0, \qquad \operatorname{rank}(B)=r<n, $$

是否存在可逆矩阵 $T$ ，使

$$ T^HAT=\operatorname{diag}(\mu_1,\ldots,\mu_n) $$

与

$$ T^HBT= \begin{bmatrix} I_r&0\\ 0&0 \end{bmatrix} $$

同时成立？

3.13 特征值的极值刻画 - Rayleigh 商#

动机#

衡量二次型取值在某个方向上的放大情况。

定义 3.13.1（Rayleigh 商）#

设 $A^H=A$ 。对任意非零向量 $x\in\mathbb C^n$ ，实数

$$ R_A(x)=\frac{x^H A x}{x^H x} $$

称为 Hermite 矩阵 $A$ 的 Rayleigh 商。

以下把 $A$ 的 $n$ 个特征值按从大到小排列：

$$ \lambda_1\ge\lambda_2\ge\cdots\ge\lambda_n. $$

定理 3.13.1（Rayleigh 商的基本性质）#

  1. 对任意非零 $k\in\mathbb C$ ， $ R_A(xk)=R_A(x). $
  2. $ \lambda_n\le R_A(x)\le\lambda_1, $ 等价地， $ \lambda_n\|x\|^2\le x^HAx\le\lambda_1\|x\|^2. $
  3. $ \min_{x\ne0}R_A(x)=\lambda_n, \qquad \max_{x\ne0}R_A(x)=\lambda_1. $

思考：若两个 $n$ 阶 Hermite 矩阵 $A,B$ 满足

$$ \lambda_n(A)>\lambda_1(B), $$

能否断定 $A-B>0$ ？

定理 3.13.2#

设 $x_1,x_2,\ldots,x_{k-1}$ 是 Hermite 矩阵 $A$ 分别属于特征值 $\lambda_1,\lambda_2,\ldots,\lambda_{k-1}$ 的特征向量。令

$$ R_k=\operatorname{span}\{x_1,x_2,\ldots,x_{k-1}\}^\perp. $$

则

$$ \lambda_k=max_{0\ne x\in R_k}R_A(x). $$

定理 3.13.3#

设 $x_i$ 是 Hermite 矩阵 $A$ 属于特征值 $\lambda_i$ 的特征向量。对

$$ x\in\operatorname{span}\{x_r,x_{r+1},\ldots,x_s\}, \qquad 1\le r<s\le n, $$

有

$$ \lambda_r=max_{0\ne x\in\operatorname{span}\{x_r,\ldots,x_s\}}R_A(x), $$ $$ \lambda_s=min_{0\ne x\in\operatorname{span}\{x_r,\ldots,x_s\}}R_A(x). $$

定理 3.13.4（Courant-Fischer 极值刻画）#

设

$$ A^H=A\in\mathbb C^{n\times n}, \qquad \lambda_1\ge\lambda_2\ge\cdots\ge\lambda_n. $$

令 $V_k$ 遍历 $\mathbb C^n$ 的所有 $k$ 维线性子空间，则

$$ \lambda_k =\max_{\dim V_k=k} \left\{ \min_{0\ne x\in V_k}R_A(x) \right\} $$

且

$$ \lambda_k =\min_{\dim V_{n-k+1}=n-k+1} \left\{ \max_{0\ne x\in V_{n-k+1}}R_A(x) \right\}. $$

证明要点#

根据 Hermite 矩阵结构定理，存在酉矩阵

$$ U=[U_1\ U_2], $$

其中

$$ U_1=[u_1\ \cdots\ u_{k-1}], \qquad U_2=[u_k\ \cdots\ u_n], $$

使

$$ A=[U_1\ U_2] \begin{bmatrix} \Lambda_1&0\\ 0&\Lambda_2 \end{bmatrix} \begin{bmatrix} U_1^H\\ U_2^H \end{bmatrix}, $$

其中

$$ \Lambda_1=\operatorname{diag}(\lambda_1,\ldots,\lambda_{k-1}), \qquad \Lambda_2=\operatorname{diag}(\lambda_k,\ldots,\lambda_n). $$

先证明

$$ \lambda_k\ge\min_{0\ne x\in V_k}R_A(x), $$

再证明等号可以取到。因为

$$ \dim(V_k)+\dim(\operatorname{span}\{U_2\})=n+1, $$

所以

$$ W=V_k\cap\operatorname{span}\{U_2\}\ne\{0\}. $$

取 $0\ne x\in W$ ，则

$$ \lambda_k =\max_{0\ne x\in\operatorname{span}\{U_2\}}R_A(x) \ge \min_{0\ne x\in W}R_A(x) \ge \min_{0\ne x\in V_k}R_A(x). $$

若

$$ V_k=\operatorname{span}\{u_1,\ldots,u_k\}, $$

则

$$ \lambda_k=\min_{0\ne x\in V_k}R_A(x). $$

后一种极值刻画可类似证明。

定理 3.13.5（Hermite 矩阵特征值扰动定理）#

设 $A,B$ 是 Hermite 矩阵。$\lambda_i(A)$ 、$\lambda_i(B)$ 与 $\lambda_i(A+B)$ 分别表示 $A,B,A+B$ 的第 $i$ 大特征值。则对每个 $k$ ，有

$$ \lambda_k(A)+\lambda_n(B) \le \lambda_k(A+B) \le \lambda_k(A)+\lambda_1(B). $$

该定理描述了 Hermite 矩阵摄动引起的特征值变化规律。

证明：由 Courant-Fischer 定理，

$$ \begin{aligned} \lambda_k(A+B) &=\max_{\dim V_k=k} \min_{0\ne x\in V_k} \frac{x^H(A+B)x}{x^Hx}\\ &=\max_{\dim V_k=k} \min_{0\ne x\in V_k} \left( \frac{x^HAx}{x^Hx} +\frac{x^HBx}{x^Hx} \right). \end{aligned} $$

由

$$ \lambda_n(B) \le \frac{x^HBx}{x^Hx} \le \lambda_1(B) $$

即可得到上下界。

定理 3.13.6（Hermite 矩阵特征向量扰动定理）#

设 $A,\Delta A$ 是 Hermite 矩阵，酉矩阵 $H$ 满足

$$ A=H\operatorname{diag}(\lambda_1,\ldots,\lambda_n)H^H, $$

其中 $\lambda_1$ 与其他特征值均不相等。记

$$ H=[h_1\ H_2], \qquad h_1\in\mathbb C^n, \qquad D=\operatorname{diag}(\lambda_2,\ldots,\lambda_n). $$

设

$$ Ax_1=\lambda_1x_1. $$

当 $A$ 被扰动为 $A+\Delta A$ ，该特征向量在正交方向上的一阶扰动为

$$ x_1(\varepsilon)=x_1+\Delta x_1, $$

其中

$$ \Delta x_1 =-H_2(D-\lambda_1I_{n-1})^{-1}H_2^H\Delta A,x_1. $$

证明#

由

$$ A[h_1\ H_2]#

\begin{bmatrix}h_1^H\H_2^H\end{bmatrix}^{-1} \begin{bmatrix}\lambda_1&0\0&D\end{bmatrix} $$

可得

$$ D=H_2^HAH_2. \tag{1} $$

设

$$ \Delta A=\varepsilon B, \qquad \varepsilon\in\mathbb R, $$

引起的特征值扰动为 $\lambda_1+\varepsilon h$ ，相应的特征向量正交方向扰动写成

$$ \Delta x_1=\varepsilon H_2p, \qquad p\in\mathbb C^{n-1}. $$

于是

$$ (A+\varepsilon B)(x_1+\varepsilon H_2p) =(\lambda_1+\varepsilon h)(x_1+\varepsilon H_2p). $$

展开，利用 $Ax_1=\lambda_1x_1$ ，并忽略 $\varepsilon$ 的二阶小量，得到

$$ A\varepsilon H_2p+\varepsilon Bx_1 =\lambda_1\varepsilon H_2p+\varepsilon h x_1. $$

由于 $H_2^Hx_1=0$ ，两边左乘 $H_2^H$ 消去未知量 $h$ ：

$$ H_2^HA\varepsilon H_2p+H_2^H\varepsilon Bx_1 =\lambda_1\varepsilon H_2^HH_2p. $$

由式 (1)、$\Delta A=\varepsilon B$ 与 $H_2^HH_2=I_{n-1}$ ，有

$$ D\varepsilon p+H_2^H\Delta A,x_1 =\lambda_1\varepsilon p. $$

因为 $\lambda_1I_{n-1}-D$ 可逆，

$$ \varepsilon p =(\lambda_1I_{n-1}-D)^{-1}H_2^H\Delta A,x_1. $$

所以

$$ \Delta x_1 =\varepsilon H_2p =H_2(\lambda_1I_{n-1}-D)^{-1}H_2^H\Delta A,x_1, $$

这与前述形式等价。

子空间上的正定性问题#

问题：怎样判断 $A=A^H$ 是否在某个子空间内保持正定或负定？是否可以考察正（负）特征值对应特征子空间的直和？给定子空间 $\operatorname{range}(B)$ ，$A$ 在其中是否正（负）定？

定理 3.13.7（Finsler 引理）#

设 $x\in\mathbb C^n$ 、$A^H=A\in\mathbb C^{n\times n}$ 、$B\in\mathbb C^{n\times m}$ ，则下列四个条件等价：

  1. 对所有满足 $B^Hx=0$ 的非零 $x$ ， $ x^HAx<0. $
  2. 设 $B^\perp$ 的列构成 $\operatorname{range}(B)$ 的正交补的一组基，且 $ B^HB^\perp=0, $ 则 $ (B^\perp)^HAB^\perp<0. $
  3. 存在 $\mu\in\mathbb R$ ，使 $ A-\mu BB^H<0. $
  4. 存在矩阵 $X$ ，使 $ A+X^HB^H+BX<0. $

课件原文在条件 (1) 的括注中写“$A$ 在 $\operatorname{range}(B)$ 的正交补内正定”，但公式为 $x^HAx<0$ ，数学含义应为“负定”。此外，课件把条件 (4) 的 $X$ 标作 $X\in\mathbb C^{n\times m}$ ，与所写乘积维数不一致；按公式 $A+X^HB^H+BX$ ，$X$ 应取 $m\times n$ 。本稿保留公式并标明该原稿疑点。

页面对照索引#

PDF 物理页课件页脚内容
11/40封面
22/40本讲目录
3-103/40-10/403.9 Schur 引理与正规矩阵
11-2311/40-22/403.10 Hermite 二次型（含一个逐步显示页）
24-3023/40-28/403.11 分块矩阵、Schur 补、矩阵求逆引理与 MIMO 应用（含逐步显示页）
31-3229/40-30/403.12 Hermite 矩阵偶同时共轭合同对角化
33-4531/40-40/403.13 Rayleigh 商、极值刻画、扰动定理与 Finsler 引理（含逐步显示页）
Backward 3 内积空间a 0-综述 Forward