线性代数定理

矩阵乘法的结合律:对于任意的矩阵 $\boldsymbol{A}$,$\boldsymbol{B}$ 和 $\boldsymbol{C}$,满足规定的维数,有 $(\boldsymbol{A}\boldsymbol{B})\boldsymbol{C}=\boldsymbol{A}(\boldsymbol{B}\boldsymbol{C})$。

矩阵乘法的交换律不成立,即对于一般情况下的矩阵 $\boldsymbol{A}$ 和 $\boldsymbol{B}$,有 $\boldsymbol{A}\boldsymbol{B}\neq\boldsymbol{B}\boldsymbol{A}$。

矩阵乘法的分配律:对于任意的矩阵 $\boldsymbol{A}$,$\boldsymbol{B}$ 和 $\boldsymbol{C}$,满足规定的维数,有 $\boldsymbol{A}(\boldsymbol{B}+\boldsymbol{C})=\boldsymbol{A}\boldsymbol{B}+\boldsymbol{A}\boldsymbol{C}$ 和 $(\boldsymbol{A}+\boldsymbol{B})\boldsymbol{C}=\boldsymbol{A}\boldsymbol{C}+\boldsymbol{B}\boldsymbol{C}$。

矩阵的逆:对于一个 $n$ 阶矩阵 $\boldsymbol{A}$,如果存在一个 $n$ 阶矩阵 $\boldsymbol{B}$,满足 $\boldsymbol{A}\boldsymbol{B}=\boldsymbol{B}\boldsymbol{A}=\boldsymbol{I}$,其中 $\boldsymbol{I}$ 为 $n$ 阶单位矩阵,则称 $\boldsymbol{A}$ 可逆,且 $\boldsymbol{B}$ 就是 $\boldsymbol{A}$ 的逆矩阵,记作 $\boldsymbol{A}^{-1}$。

行列式:对于 $n$ 阶矩阵 $\boldsymbol{A}=(a_{ij})$,定义其行列式为 $\det(\boldsymbol{A})$,其中 $\det(\boldsymbol{A})=\sum_{\sigma\in \mathfrak{S}n}\mathrm{sgn}(\sigma)\prod{i=1}^n a_{i\sigma_i}$,其中 $\mathfrak{S}_n$ 表示 $n$ 阶置换的全体,$\mathrm{sgn}(\sigma)$ 是 $\sigma$ 的符号函数。如果 $\det(\boldsymbol{A})\neq 0$,则称 $\boldsymbol{A}$ 是可逆的。

秩定理:对于任意的矩阵 $\boldsymbol{A}$,$\boldsymbol{B}$,满足规定的维数,有 $\operatorname{rank}(\boldsymbol{A}\boldsymbol{B})\leq \operatorname{rank}(\boldsymbol{A})$。

奇异值分解定理:对于 $m\times n$ 矩阵 $\boldsymbol{A}$,存在一对正交矩阵 $\boldsymbol{U}(m\times m)$,$\boldsymbol{V}(n\times n)$,和一个 $m\times n$ 的矩阵 $\boldsymbol{\Sigma}$,使得 $\boldsymbol{A}=\boldsymbol{U}\boldsymbol{\Sigma}\boldsymbol{V}^T$,其中 $\boldsymbol{\Sigma}$ 的对角线元素为 $\sigma_1\geq \sigma_2\geq \cdots \geq \sigma_r>0$,$r=\operatorname{rank}(\boldsymbol{A})$。$\sigma_1,\sigma_2,\dots ,\sigma_r$ 称为 $\boldsymbol{A}$ 的奇异值,$\boldsymbol{U}$ 的列向量为 $\boldsymbol{A}\boldsymbol{A}^T$ 的标准正交化的特征向量,$\boldsymbol{V}$ 的列向量为 $\boldsymbol{A}^T\boldsymbol{A}$ 的标准正交化的特征向量。