矩阵

矩阵定义

定义：$m\times n$矩阵是由$m\times n$个数$a_{ij}$（元素）排成的$m$行$n$列的数表。

元素是实数的矩阵称为实矩阵，元素是复数的矩阵是复矩阵。

行数列数都为$n$的就是$n$阶矩阵或方阵，记为$A_n$。

行矩阵或行向量定义：只有一行的矩阵$A=(a_1{a}_2\cdots a_n)$。

列矩阵或列向量定义：只有一列的矩阵$B=\left(\begin{array}{c}{b}_1\\ b_2\\ \cdots \\ b_m\end{array}\right)$。

同型矩阵定义：两个矩阵行数、列数相等。

相等矩阵定义：是同型矩阵，且对应元素相等的矩阵。记为$A=B$。

零矩阵定义：元素都是零的矩阵，记为$O$，但是不同型的零矩阵不相等。

对角矩阵或对角阵定义：从左上角到右下角的直线（对角线）以外的元素都是0的矩阵，记为$\Lambda =\text{diag}({\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_n)$。

$\Lambda =\left(\begin{array}{cccc}{\lambda }_1& 0& \cdots & 0\\ 0& {\lambda }_2& \cdots & 0\\ ⋮& ⋮& ⋮& ⋮\\ 0& 0& \cdots & {\lambda }_n\end{array}\right)$

单位矩阵或单位阵定义：${\lambda }_1={\lambda }_2=\cdots ={\lambda }_n=1$的对角矩阵，记为$E$。这种线性变换叫做恒等变换，$AE=A$。

$E=\left(\begin{array}{cccc}1& 0& \cdots & 0\\ 0& 1& \cdots & 0\\ ⋮& ⋮& ⋮& ⋮\\ 0& 0& \cdots & 1\end{array}\right)$

💻 计算机专业视角

矩阵在代码里就是「二维数组」，是几乎所有数值计算的基本数据结构。NumPy 的 ndarray、PyTorch/TensorFlow 的张量，本质都是带形状 $(m,n)$ 的矩阵；图像是像素矩阵，一批样本特征是「样本数 × 特征数」的矩阵，全连接神经网络的一层权重也是矩阵。单位矩阵 $E$ 对应代码里的 np.eye(n)，它代表「恒等变换」（什么都不改变），在初始化、正则化（如 $A+\lambda E$）里反复出现；对角矩阵 np.diag(...) 因为只存对角线、乘法只是逐元素缩放，是最省算力的一类矩阵。

🌱 大一新生提示

矩阵说白了就是一张「数字表格」，$m$ 行 $n$ 列。只有一行的叫行向量、只有一列的叫列向量，它们是矩阵的特例。两个矩阵要「相等」，前提是行列数都一样（同型）且每个对应位置的数都相等。单位矩阵 $E$ 是主对角线全是 1、其余全 0 的方阵，它在矩阵世界里扮演数字「1」的角色——任何矩阵乘它都不变（$AE=A$）。

矩阵运算

矩阵加法减法

设与两个矩阵都是同型矩阵$m\times n$，$A=(a_{ij})$和$B=(b_{ij})$，则其加法就是$A+B$。

$A+B=\left(\begin{array}{cccc}{a}_{11}+b_{11}& a_{12}+b_{12}& \cdots & a_{1n}+b_{1n}\\ a_{21}+b_{21}& a_{22}+b_{22}& \cdots & a_{2n}+b_{2n}\\ ⋮& ⋮& ⋮& ⋮\\ a_{m1}+b_{m1}& a_{m2}+b_{m2}& \cdots & a_{m+n}+b_{m+n}\end{array}\right)$

• $A+B=B+A$。
• $(A+B)+C=A+(B+C)$。

若$-A=(-a_{ij})$，则$-A$是$A$的负矩阵，$A+(-A)=O$。

从而矩阵的减法为$A-B=A+(-B)$。

数乘矩阵

数$\lambda$与矩阵$A$的乘积记为$\lambda A$或$A\lambda$，规定：

$\lambda A=A\lambda =\left(\begin{array}{cccc}\lambda a_{11}& \lambda a_{12}& \cdots & \lambda a_{1n}\\ \lambda a_{21}& \lambda a_{22}& \cdots & \lambda a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ \lambda a_{m1}& \lambda a_{m2}& \cdots & \lambda a_{mn}\end{array}\right)$

假设$A$、$B$都是$m\times n$的矩阵，$\lambda$、$\mu$为数：

• $(\lambda \mu )A=\lambda (\mu A)$。
• $(\lambda +\mu )A=\lambda A+\mu A$。
• $\lambda (A+B)=\lambda A+\lambda B$。

矩阵加法与数乘矩阵都是矩阵的线性运算。

矩阵相乘

设$A=(a_{ij})$是一个$m\times s$的矩阵，$B=(b_{ij})$是一个$s\times n$的矩阵，那么$A\times B=AB=C_{m\times n}=(c_{ij})$。即：$c_{ij}=a_{i1}{b}_{1j}+a_{i2}{b}_{2j}+\cdots +a_{is}{b}_{sj}=\sum _{k=1}^s{a}_{ik}{b}_{kj}\text{（}i=1,2,\cdots ,m;j=1,2,\cdots ,n\text{）}$。

即前一个矩阵的行乘后一个矩阵的列就得到当前元素的值。

所以按此定义一个$1\times s$行矩阵与$s\times 1$列矩阵的乘积就是一个1阶方针即一个数：

$(a_{i1},a_{i2},\cdots ,a_{is})\left(\begin{array}{c}{b}_{1j}\\ b_{2j}\\ \cdots \\ b_{sj}\end{array}\right)=a_{i1}{b}_{1j}+a_{i2}{b}_{2j}+\cdots +a_{is}{b}_{sj}=\sum _{k=1}^s{a}_{ik}{b}_{kj}=c_{ij}$。

从而$AB=C$的$c_{ij}$就是$A$的第$i$行与$B$的$j$列的乘积。

当$A$左边乘$P$为$PA$，称为左乘$P$，若右边乘$P$为$AP$，则称为右乘$P$。

注意：只有左矩阵的列数等于右矩阵的行数才能相乘。

只有$AB$都是方阵的时候才能$AB$与$BA$。

矩阵的左乘与右乘不一定相等，即$AB\ne BA$。

定义：若方阵$AB$乘积满足$AB=BA$，则表示其是可交换的。

$A\ne O$，$B\ne O$，但是不能推出$AB\ne O$或$BA\ne O$。

$AB=O$不能推出$A=O$或$B=O$。

$A(X-Y)=O$当$A\ne O$也不能推出$X=Y$。

• $(AB)C=A(BC)$。
• $\lambda (AB)=(\lambda A)B=A(\lambda B)$。
• $A(B+C)=AB+AC$。
• $(B+C)A=BA+CA$。
• $EA=AE=A$。

$\lambda E$称为纯量阵，$(\lambda E_n)A_n=\lambda A_n=A_n(\lambda E_n)$。

若$A_{m\times s}$，$B_{s\times n}=({\beta }_1,\cdots ,{\beta }_s)$，其中$\beta$为$n$行的列矩阵，则：

$AB=A({\beta }_1,\cdots ,{\beta }_s)=(A{\beta }_1,\cdots ,A{\beta }_n)$。

💻 计算机专业视角

矩阵乘法是整个科学计算的「心脏」，它对应的是「线性变换的复合」，而不是逐元素相乘。$AB$ 的几何含义是「先做变换 $B$ 再做变换 $A$」，这正是 $AB\ne BA$ 的根源——先旋转再平移和先平移再旋转结果当然不同。维度规则「左列数 = 右行数」就是函数复合的「定义域/值域要接得上」。按定义算一次 $n\times n$ 乘法是 $O(n^3)$；正因为它太核心，才有了高度优化的 BLAS（GEMM）库、GPU 张量核心，以及 Strassen 等 $O(n^{2.8})$ 的分治算法。深度学习里每一层的前向传播 Y = X @ W 就是矩阵乘法，训练一个大模型的绝大部分算力都耗在这上面。

🌱 大一新生提示

矩阵乘法的口诀是「前行点后列」：结果第 $i$ 行第 $j$ 列的数，等于左矩阵第 $i$ 行和右矩阵第 $j$ 列对应相乘再相加。所以能相乘的前提是「左边的列数 = 右边的行数」，否则配不上对、根本不能乘。两个特别容易踩的坑：①$AB$ 和 $BA$ 一般不相等，顺序不能随便换；②$AB=O$ 不能推出 $A$ 或 $B$ 是零矩阵——这和普通数「乘积为 0 必有一个因子为 0」完全不同，是矩阵世界的特色。

矩阵幂

只有方阵才能连乘，从而只有方阵才有幂。

若$A$是$n$阶方阵，所以：

$A^1=A\text{，}{A}^2=A^1{A}^1\text{，}\cdots \text{，}{A}^{k+1}=A^k{A}^1$

• $A^k{A}^l=A^{k+l}$。
• $(A^k{)}^l=A^{kl}$。

因为矩阵乘法一般不满足交换率，所以$(AB{)}^k\ne A^k{B}^k$。只有$AB$可交换时才相等。

若$A\ne 0$不能推出$A^k\ne 0$，如：

$A=\left(\begin{array}{cc}0& 2\\ 0& 0\end{array}\right)\ne 0$。$A^2=\left(\begin{array}{cc}0& 2\\ 0& 0\end{array}\right)\left(\begin{array}{cc}0& 2\\ 0& 0\end{array}\right)=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right)=O$。

$A=\left(\begin{array}{ccc}0& 1& 1\\ 0& 0& 1\\ 0& 0& 0\end{array}\right)$，$A^3=O$。

矩阵幂可以同普通多项式进行处理。

如$f(x)=a_n{x}^n+\cdots +a_{1}x+n$，对于$A$就是$f(A)=a_n{A}^n+\cdots +a_{1}A+a_{n}E$。

$f(A)=A^2-A-6E=(A+2E)(A-3E)$。

💻 计算机专业视角

矩阵幂 $A^k$ 在算法里有个漂亮的应用：如果 $A$ 是图的邻接矩阵，那么 $A^k$ 的第 $(i,j)$ 个元素恰好是「从结点 $i$ 走 $k$ 步到结点 $j$ 的路径条数」。马尔可夫链里 $A$ 是状态转移概率矩阵，$A^k$ 就是 $k$ 步后的转移概率，$k\to \infty$ 收敛到稳态分布（PageRank 就是这么算的）。计算高次幂时不会傻乘 $k$ 次，而是用「快速幂」（平方求幂）把 $A^k$ 降到 $O(\log k)$ 次矩阵乘法；若能对角化 $A=P\Lambda P^{-1}$，则 $A^k=P{\Lambda }^k{P}^{-1}$，只需给对角元各自取 $k$ 次方，这也是后面特征值分解的重要用途。

🌱 大一新生提示

只有方阵才能自乘，所以只有方阵才有「幂」$A^k$。这里有个反直觉的现象：一个非零矩阵的幂可能等于零矩阵（如例子中的 $A\ne O$ 但 $A^2=O$），这种矩阵叫「幂零矩阵」，普通数字绝不会这样。另外，矩阵也能代入多项式：把 $f(x)=x^2-x-6$ 里的 $x$ 换成矩阵 $A$、常数项 $-6$ 换成 $-6E$（乘单位矩阵），就得到矩阵多项式 $f(A)$，而且像数字一样可以因式分解。

矩阵转置

把矩阵$A$的行换成同序数的列就得到一个新矩阵，就是$A$的转置矩阵$A^T$。若$A$为$m\times n$，则$A^T$为$n\times m$。

• $(A^T{)}^T=A$。
• $(A+B{)}^T=A^T+B^T$。
• $(\lambda A{)}^T=\lambda A^T$。
• $(AB{)}^T=B^T{A}^T$。
• 若$m=n$，$|A|=|A^T|$。

对称矩阵或对称阵定义：矩阵$A$是方阵，且元素以对角线为对称轴对应相等，$A=A^T$。

反对称矩阵定义：矩阵$A$是方阵，且满足$-A=A^T$。即$\{\begin{array}{l}{a}_{ij}=-a_{ji},i\ne j\\ a_{ii}=0\end{array}$。

正交矩阵定义：矩阵$A$是方阵，且满足$A^{T}A=E$。

💻 计算机专业视角

对称矩阵和正交矩阵是机器学习里出镜率最高的两类特殊矩阵。对称矩阵 $A=A^T$ 包括协方差矩阵、Gram 矩阵 $X^{T}X$、二次型的系数矩阵，它们一定能正交对角化、特征值全为实数，这是 PCA、谱聚类的理论基础。正交矩阵 $A^{T}A=E$ 意味着 $A^{-1}=A^T$（求逆退化成转置，几乎零成本），它代表「旋转/反射」这类保持长度和夹角不变的变换——所以数值上极其稳定，QR 分解、SVD 里的 $U,V$、深度学习里的正交初始化都靠它来避免梯度爆炸/消失。还要记住 $(AB{)}^T=B^T{A}^T$ 这个「穿脱袜子」式的反序规则，它和求逆的 $(AB{)}^{-1}=B^{-1}{A}^{-1}$ 完全平行。

🌱 大一新生提示

转置 $A^T$ 就是把矩阵「沿主对角线翻折」，行变成列、列变成行。由此引出两类特殊方阵：翻折后和自己一模一样（$A=A^T$）的叫对称矩阵，元素关于对角线镜像相等；翻折后正好等于自己的相反数（$A^T=-A$）的叫反对称矩阵，它的对角线必须全是 0。正交矩阵则满足 $A^{T}A=E$，意思是「转置就是它的逆」，求逆变得异常简单。记住转置的两条常用法则：$(A^T{)}^T=A$（翻两次回到原样）、$(AB{)}^T=B^T{A}^T$（乘积转置要调换顺序）。

方阵行列式

由$n$阶方阵$A$的元素所构成的行列式称为矩阵$A$的行列式，记为$\text{det}A$或$|A|$。

• $|A^T|=|A|$。
• $|A^{-1}|=\frac{1}{|A|}$。
• $|\lambda A|={\lambda }^n|A|$。
• $|AB|=|A|\cdot |B|=|BA|$。

一般而言：$|A+B|\ne |A|+|B|$，$|A|\ne O\nRightarrow |A|\ne 0$，$A\ne B\nRightarrow |A|\ne |B|$。

伴随矩阵

伴随矩阵或伴随阵定义：行列式$|A|$各个元素的代数余子式$A_{ij}$转置构成的矩阵。

$A^{\ast }=\left(\begin{array}{cccc}{A}_{11}& A_{21}& \cdots & A_{n1}\\ A_{12}& A_{22}& \cdots & A_{n2}\\ ⋮& ⋮& \ddots & ⋮\\ A_{1n}& A_{2n}& \cdots & A_{nn}\end{array}\right)$

• 任何方阵都有伴随矩阵，其中$A{A}^{\ast }=A^{\ast }A=|A|E$。
• $A^{\ast }=|A|A^{-1}$，$A^{-1}=\frac{1}{|A|}{A}^{\ast }$，$A=|A|(A^{\ast }{)}^{-1}$。
• $|A^{\ast }|=|A{|}^{n-1}$，$(kA{)}^{\ast }=k^{n-1}{A}^{\ast }$，$(kA)(kA{)}^{\ast }=|kA|E$，$A^T(A^T{)}^{\ast }=|A^T|E$，$A^{-1}(A^{-1}{)}^{\ast }=|A^{-1}|E$，$A^{\ast }(A^{\ast }{)}^{\ast }=|A^{\ast }|E$。
• $(A^T{)}^{\ast }=(A^{\ast }{)}^T$，$(A^{-1}{)}^{\ast }=(A^{\ast }{)}^{-1}$，$(AB{)}^{\ast }=B^{\ast }{A}^{\ast }$，$(A^{\ast }{)}^{\ast }=|A{|}^{n-2}A$。

例题：假设$A$为$n$阶方阵，求$|A^{\ast }|$与$(A^{\ast }{)}^{\ast }$。

解：$\because A{A}^{\ast }=A^{\ast }A=|A|E$，$\therefore A^{\ast }(A^{\ast }{)}^{\ast }=|A^{\ast }|E$。

$(A^{\ast }{)}^{-1}{A}^{\ast }(A^{\ast }{)}^{\ast }=(A^{\ast }{)}^{\ast }=(A^{\ast }{)}^{-1}|A^{\ast }|E$，又$A{A}^{\ast }=|A|E$，$|A{A}^{\ast }|=||A|E|$，

$\therefore |A||A^{\ast }|=|A{|}^n|E|$，$\therefore |A^{\ast }|=|A{|}^{n-1}$。

又$A{A}^{\ast }=|A|E$，$\therefore A^{\ast }=|A|A^{-1}$，$(A^{\ast }{)}^{-1}=(|A|A^{-1}{)}^{-1}=\frac{1}{|A|}A$。

$\because (A^{\ast }{)}^{\ast }=(A^{\ast }{)}^{-1}|A^{\ast }|E$，$\therefore =\frac{1}{|A|}A|A^{\ast }|=\frac{1}{|A|}A|A{|}^{n-1}=|A{|}^{n-2}A$。

例题：假设$A$为$n$阶方阵，求$(kA{)}^{\ast }$。

解：根据$A{A}^{\ast }=|A|E$，$\therefore (kA)(kA{)}^{\ast }=|kA|E$，推出$(kA{)}^{\ast }=|kA|(kA{)}^{-1}$。

$=k^n|A|\frac{1}{k}{A}^{-1}=k^{n-1}|A|A^{-1}=k^{n-1}{A}^{\ast }$。

分块矩阵

在行列式的时候提到了分块行列式，分块行列式计算时要求对应的零行列式必须是行列数相等的，而对于分块矩阵而言则不要求，且不一定要零矩阵。

对于行列数较多的矩阵常使用分块法，将大矩阵化为小矩阵。将矩阵用横纵线分为多个小矩阵，每个矩阵成为矩阵的子块，以子块为元素的矩阵就是分块矩阵。

分块矩阵计算

分块矩阵的计算法则与普通矩阵计算类似。

定理：若$AB$矩阵行列数相同，采用相同的分块法，则

$A=\left(\begin{array}{ccc}{A}_{11}& \cdots & A_{1r}\\ ⋮& & ⋮\\ A_{s1}& \cdots & A_{sr}\end{array}\right)\text{，}B=\left(\begin{array}{ccc}{B}_{11}& \cdots & B_{1r}\\ ⋮& & ⋮\\ B_{s1}& \cdots & B_{sr}\end{array}\right)$

$A+B=\left(\begin{array}{ccc}{A}_{11}+B_{11}& \cdots & A_{1r}+B_{1r}\\ ⋮& & ⋮\\ A_{s1}+B_{s1}& \cdots & A_{sr}+B_{sr}\end{array}\right)\text{。}$

定理：设$A=\left(\begin{array}{ccc}{A}_{11}& \cdots & A_{1r}\\ ⋮& & ⋮\\ A_{s1}& \cdots & A_{sr}\end{array}\right)$，$\lambda$为数，则$\lambda A=\left(\begin{array}{ccc}\lambda A_{11}& \cdots & \lambda A_{1r}\\ ⋮& & ⋮\\ \lambda A_{s1}& \cdots & \lambda A_{sr}\end{array}\right)$。

定理：若$A_{m\times l}$，$B_{l\times n}$，采用相同的分块法，则

$A=\left(\begin{array}{ccc}{A}_{11}& \cdots & A_{1t}\\ ⋮& & ⋮\\ A_{s1}& \cdots & A_{st}\end{array}\right)\text{，}B=\left(\begin{array}{ccc}{B}_{11}& \cdots & B_{1t}\\ ⋮& & ⋮\\ B_{t1}& \cdots & B_{sr}\end{array}\right)$

$AB=\left(\begin{array}{ccc}{C}_{11}& \cdots & C_{1r}\\ ⋮& & ⋮\\ C_{s1}& \cdots & C_{sr}\end{array}\right)\text{，}{C}_{ij}=\sum _{k=1}^t{A}_{ik}{B}_{kj}\text{。}$

定理：设$A=\left(\begin{array}{ccc}{A}_{11}& \cdots & A_{1r}\\ ⋮& & ⋮\\ A_{s1}& \cdots & A_{sr}\end{array}\right)$，则$A^T=\left(\begin{array}{ccc}{A}_{11}^T& \cdots & A_{s1}^T\\ ⋮& & ⋮\\ A_{1r}^T& \cdots & A_{sr}^T\end{array}\right)$。

定理：设$A$为$n$阶方阵，$A$的分块矩阵只有对角线上才有非零子块且都是方阵，其余子块都是零矩阵，即$A=\left(\begin{array}{cccc}{A}_1& & & O\\ & A_2& & \\ & & \ddots & \\ O& & & A_s\end{array}\right)$，称为分块对角矩阵。$|A|=|A_1||A_2|\cdots |A_s|$。

若$|A_i|\ne 0$，则$|A|\ne 0$，且$A^{-1}=\left(\begin{array}{cccc}{A}_1^{-1}& & & O\\ & A_2^{-1}& & \\ & & \ddots & \\ O& & & A_s^{-1}\end{array}\right)$。

按行按列分块

对于$m\times n$的矩阵$A$，其$n$列称为$A$的$n$个列向量，若第$j$列记为$a_j=\left(\begin{array}{c}{a}_{1j}\\ a_{2j}\\ ⋮\\ a_{mj}\end{array}\right)$，则$A$可以按列分块为$A=(a_1,a_2,\cdots ,a_n)$。

其$m$行称为$A$的$m$个行向量，若第$i$行记为$a_i^T=(a_{i1},a_{i2},\cdots ,a_{in})$，则$A$可以按行分块为$A=\left(\begin{array}{c}{a}_1^T\\ a_2^T\\ ⋮\\ a_m^T\end{array}\right)$。

若对于$A_{m\times s}$与$B_{s\times n}$的乘积矩阵$AB=C=(c_{ij}{)}_{m\times n}$，若将$A$按行分为$m$块，$B$按列分为$n$块，则有：

$AB=\left(\begin{array}{c}{a}_1^T\\ a_2^T\\ ⋮\\ a_m^T\end{array}\right)(b_1,b_2,\cdots ,b_n)$

$=\left(\begin{array}{cccc}{a}_1^T{b}_1& a_1^T{b}_2& \cdots & a_1^T{b}_n\\ a_2^T{b}_1& a_2^T{b}_2& \cdots & a_2^T{b}_n\\ ⋮& ⋮& \ddots & ⋮\\ a_m^T{b}_1& a_m^T{b}_2& \cdots & a_m^T{b}_n\end{array}\right)=(c_{ij}{)}_{m\times n}\text{。}$

其中：$c_{ij}=a_i^T{b}_j=(a_{i1},a_{i2},\cdots ,a_{is})\left(\begin{array}{c}{b}_{1j}\\ b_{2j}\\ ⋮\\ b_{sj}\end{array}\right)=\sum _{k=1}^s=a_{ik}{b}_{kj}\text{。}$

定理：$A=O$的充要条件是$A^{T}A=O$。

证明：$\because A=O$，$\therefore A^T=O$，$A^{T}A=O$。

设$A=(a_{ij}{)}_{m\times n}$，将$A$按列分块为$A=(a_1,a_2,\cdots ,a_n)$，则

$A^{T}A=\left(\begin{array}{c}{a}_1^T\\ a_2^T\\ ⋮\\ a_m^T\end{array}\right)(a_1,a_2,\cdots ,a_n)=\left(\begin{array}{cccc}{a}_1^T{a}_1& a_1^T{a}_2& \cdots & a_1^T{a}_n\\ a_2^T{a}_1& a_2^T{a}_2& \cdots & a_2^T{a}_n\\ ⋮& ⋮& \ddots & ⋮\\ a_m^T{a}_1& a_m^T{a}_2& \cdots & a_m^T{a}_n\end{array}\right)\text{。}$

所以$A^{T}A$的元为$a_i^T{a}_j$，又$\because A^{T}A=O$，$\therefore a_i^T{a}_j=0$（$i,j=1,2,\cdots n$）。

$\therefore a_j^T{a}_j=0$（$j=1,2,\cdots n$），对角线元素全部为0。

且$a_j^T{a}_j=\left(\begin{array}{cccc}{a}_1^T{a}_1& & & \\ & a_2^T{a}_2& & \\ & & \ddots & \\ & & & a_m^T{a}_n\end{array}\right)=(a_{1j},a_{2j},\cdots ,a_{mj})\left(\begin{array}{c}{a}_{1j}\\ a_{2j}\\ ⋮\\ a_{mj}\end{array}\right)$

$=a_{1j}^2+a_{2j}^2+\cdots +a_{mj}^2=0$，所以$a_{1j}=a_{2j}=\cdots +a_{mj}=0$。

$\therefore A=O$。

逆矩阵

逆矩阵定义

逆矩阵就是类似矩阵的除运算。

定义：逆矩阵类比倒数，若对于$n$阶方阵$A$，有一个$n$阶方阵$B$，使得$AB=BA=E$，则$A$可逆，$B$是$A$的逆矩阵也称为逆阵，且逆矩阵唯一，记为$B=A^{-1}$。

定理：若方阵$A$可逆，则$|A|\ne 0$。

证明：若$A$可逆，则$A{A}^{-1}=E$，所以$|A|\cdot |A^{-1}|=|E|=1$，$|A|\ne 0$。

可以类比普通数字，若$a$有一个倒数$\frac{1}{a}$，则$a\ne 0$，否则无法倒。

定理：若$|A|\ne 0$，则$A$可逆，且$A^{-1}=\frac{1}{|A|}{A}^{\ast }$。

证明：$\because A{A}^{\ast }=A^{\ast }A=|A|E$，又$|A|\ne 0$，$A\frac{1}{|A|}{A}^{\ast }=\frac{1}{|A|}{A}^{\ast }A=E$。

按逆矩阵定义，当$A$可逆，与$A^{-1}=\frac{1}{|A|}{A}^{\ast }$。

当$|A|=0$时，$A$为奇异矩阵，否则是非奇异矩阵。

定理：矩阵是可逆矩阵的必要条件是非奇异矩阵。

定理：若$AB=E$或$BA=E$，则$B=A^{-1}$。

逆矩阵性质

• 若$A$可逆，则$(A^{-1}{)}^{-1}=A$。
• 若$A$可逆，数$\lambda \ne 0$，则$(\lambda A{)}^{-1}=\frac{1}{\lambda }{A}^{-1}$。
• 若$AB$为同阶矩阵且都可逆，则$(AB{)}^{-1}=B^{-1}{A}^{-1}$。
• 若$A$可逆，则$(A^T{)}^{-1}=(A^{-1}{)}^T$。
• 若$A$可逆，则$|A^{-1}|=|A{|}^{-1}$。
• 若$A$可逆，$\lambda \mu$为整数时，$A^{\lambda }{A}^{\mu }=A^{\lambda +\mu }$，$(A^{\lambda }{)}^{\mu }=A^{\lambda \mu }$。

若$A$、$B$可逆，则$A+B$不一定可逆，且$(A+B{)}^{-1}\ne A^{-1}+B^{-1}$。

💻 计算机专业视角

数值计算的第一条军规：要解 $Ax=b$，请用解法器而不要先求出 $A^{-1}$ 再乘 $b$。显式求逆既慢又放大舍入误差，NumPy 里应当写 np.linalg.solve(A, b)（内部走 LU 分解，$O(n^3)$），而不是 np.linalg.inv(A) @ b。判断可逆的充要条件 $\det A\ne 0$ 在浮点世界还不够——矩阵可能「数学上可逆但数值上接近奇异」，这时要看条件数（最大/最小奇异值之比），条件数过大说明解对误差极敏感（病态问题）。本节用伴随矩阵 $A^{-1}=\frac{1}{|A|}{A}^{\ast }$ 求逆只适合手算小矩阵，工程中一律被分解法取代。

🌱 大一新生提示

逆矩阵 $A^{-1}$ 就是矩阵版的「倒数」：数字 $a$ 乘 $\frac{1}{a}$ 等于 1，矩阵 $A$ 乘 $A^{-1}$ 等于单位矩阵 $E$。正如 0 没有倒数，矩阵可逆的前提是 $\det A\ne 0$（这样的方阵叫非奇异矩阵；$\det A=0$ 的叫奇异矩阵，不可逆）。常用法则也和倒数类似：$(A^{-1}{)}^{-1}=A$、$(AB{)}^{-1}=B^{-1}{A}^{-1}$（注意要调换顺序）。但别想当然——$A$、$B$ 都可逆时 $A+B$ 未必可逆，更不能写成 $A^{-1}+B^{-1}$。

求逆矩阵

伴随矩阵

根据伴随矩阵的定义，即求出矩阵所代表行列式的各行元素的代数余子式，然后按列进行排列。

只能求四阶以下的矩阵，过高阶的矩阵很难求出。

1. 求出$|A|$，判断是否为0。
2. 写出$A^{\ast }$。
3. 计算$A^{-1}=\frac{1}{|A|}{A}^{\ast }$。

初等变换

可以利用初等变换来求逆矩阵。

矩阵初等变换

可以使用矩阵初等变换来实现求逆矩阵。且初等变换还可以用来求线性方程组的解。

初等变换

矩阵的三种初等行变换，互换、倍乘、倍加：

1. 对换两行（对换$ij$两行，记为$r_i\leftrightarrow r_j$）。
2. 以数$k\ne 0$乘某一行中的所有元（第$i$行乘$k$，记为$r_i\times k$），对角线元素全部为0。
3. 把某一行所有元的$k$倍加到另一行对应元上（第$j$行的$k$倍加上第$i$行上，记为$r_i+k{r}_j$）。

把对应的行换为列就得到初等列变换，将$r$改为$c$。其逆变换也是一种初等变换。初等行变换和初等列变换都是初等变换。

定义：若$A$经过有限次行变换得到$B$，则称$AB$行等价，记为$A\stackrel{r}{\sim }B$；若$A$经过有限次列变换得到$B$，则称$AB$行等价，记为$A\stackrel{c}{\sim }B$；若$A$经过有限次初等变换得到$B$，则称$AB$行等价，记为$A\sim B$。

矩阵之间的等价关系：

1. 反身性：$A\sim A$。
2. 对称性：若$A\sim B$，则$B\sim A$。
3. 传递性：若$A\sim B$，$B\sim C$，则$A\sim C$。

若是解方程组，则使用初等行变换解不会发生改变，若使用初等列变换则会改变解。

阶梯型矩阵

将方程式用增广矩阵表示，然后通过初等行变换就可以对方程式进行消元。得到如下类型的矩阵结果，类似三角行列式，如：

$$\left(\begin{array}{ccccc}1& 2& -1& 3& 4\\ 0& 1& 3& -2& -1\\ 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0\end{array}\right)$$

每行的首个非零元素，称为该非零行的首非零元，它左侧及下方的元素都为零，呈现出阶梯状。

行阶梯形矩阵定义：非零行在零行的上面，非零行的首非零元素所在列在上一行首非零元素所在列的右边的非零矩阵。

行最简形矩阵定义：非零行的首非零元素为1，首非零元所在列其他的元全部为0的行阶梯矩阵。

对于任何矩阵都能通过初等列变换变为行阶梯形矩阵和行最简形矩阵，再通过列变换可以变为标准形：左上角是一个单位矩阵，其他元全部是0。

初等变换性质

定理：设$AB$都是$m\times n$矩阵，初等变换与矩阵乘积关系：\begin{enumerate} \item $A\stackrel{r}{\sim }B$的充要条件是存在$m$阶可逆矩阵$P$，使得$PA=B$。 \item $A\stackrel{c}{\sim }B$的充要条件是存在$n$阶可逆矩阵$Q$，使得$AQ=B$。 \item $A\sim B$的充要条件是存在$m$阶可逆矩阵$P$和$n$阶可逆矩阵$Q$，使得$PAQ=B$。

初等变换具有如下性质：

• 设$A$是一个$m\times n$矩阵，对$A$进行一次初等行变换，相当于在$A$左乘对应$m$阶初等矩阵；对$A$进行一次列变换，相当于在$A$右乘对应$n$阶初等矩阵。
• 方阵$A$可逆的充分必要条件是存在有限个初等矩阵$P_i$使得$A=\prod _{i=1}^n{P}_i$。
• 可逆方阵$A$一定可以通过有限次初等变换化为同阶单位矩阵$E$。
• 方阵$A$可逆的充要条件是$A\stackrel{r}{\sim }E$。（即$A$方阵所代表的线性方程组能通过初等计算得到最后的解）

对于$A_{m\times n}$进行初等变换：\begin{enumerate} \item 第$ij$行对换：$E_m(ij)A$，第$ij$列变换：$A{E}_n(ij)$。 \item 数$k$乘第$i$行：$E_m(i(k))A$，数$k$乘第$i$列：$A{E}_n(i(k))$。 \item 数$k$乘第$j$行加到$i$行：$E_m(ij(k))A$，数$k$乘第$j$列加到$i$列：$A{E}_n(ij(k))$。

已知$A$经过无数次初等变换就能变成单位矩阵，即通过乘无数个初等矩阵就可以变成单位矩阵，那么这些初等矩阵是什么呢？

例如$A=\left(\begin{array}{cc}1& 2\\ 2& 3\end{array}\right)$要变成$\left(\begin{array}{cc}1& 2\\ 0& -1\end{array}\right)$，就需要将第一排的数据乘-2加到第二排。

即按照初等矩阵的表示方法就是$E_{21}(-2)$，然后这个初等矩阵就是对单位矩阵进行同样变换。

即$E_{21}(-2)$就是将初等矩阵第一排的数据乘-2加到第二排，得到$E_{21}(-2)=\left(\begin{array}{cc}1& 0\\ -2& 1\end{array}\right)$，而行变换$\left(\begin{array}{cc}1& 0\\ -2& 1\end{array}\right)\left(\begin{array}{cc}1& 2\\ 2& 3\end{array}\right)=\left(\begin{array}{cc}1& 2\\ 0& -1\end{array}\right)$，果然就得到目标结果。

从而对一个矩阵进行初等行变换就是左乘一个进行同样行变换的初等矩阵，列变换同理。

初等矩阵性质

初等矩阵定义：由单位矩阵$E$经过一次初等变换得到的矩阵。所以初等矩阵都是方阵。

• 初等矩阵的转置也是初等矩阵。
• 对初等矩阵进行行或列变换，$|E_{ij}|=-1$，对其求逆：$E_{ij}^{-1}=E_{ij}$。
• 对初等矩阵$i$行乘$k$，$|E_i(k)|=k$，对其求逆：$E_i(k{)}^{-1}=E_i\left(\frac{1}{k}\right)$。
• 对初等矩阵第$j$行乘$k$加到$i$行，$|E_{ij}(k)|=1$，对其求逆：$E_{ij}(k{)}^{-1}=E_{ij}(-k)$。

💻 计算机专业视角

初等行变换 = 高斯消元，而「初等行变换 ⟺ 左乘一个初等矩阵」正是 LU 分解的理论内核。把矩阵化成行阶梯形的过程，就是用一连串「倍加」初等矩阵不断左乘原矩阵；把这些初等矩阵的逆按顺序乘起来，就得到下三角矩阵 $L$，化成的上三角是 $U$，于是 $A=LU$。这就是 scipy.linalg.lu 在做的事，也是解方程、求行列式、求逆背后统一的 $O(n^3)$ 引擎。三种行变换对应三类初等矩阵，它们都可逆（如「倍加 $k$」的逆是「倍加 $-k$」），所以消元过程随时可逆、不丢信息。

🌱 大一新生提示

矩阵有三种「初等行变换」，和你解方程组时做的事一模一样：①对换两行（调换两个方程的顺序）；②某一行乘一个非零数 $k$（方程两边同乘一个数）；③把某行的 $k$ 倍加到另一行（用一个方程去消另一个方程的未知数）。靠它们能把矩阵一步步化简成「行阶梯形」（左下角全是 0、像楼梯）甚至更干净的「行最简形」（首个非零元是 1、且它那一列其余都是 0）。关键性质：用初等行变换解方程组，解不会变；但初等列变换会改变解，要小心区分。

初等行变换求逆

若该矩阵$A$是可逆矩阵，就将$AX=B$的增广矩阵$(A,B)$化为最简形矩阵，从而得到方程解。

$\because P_i\cdots P_2{P}_{1}A=E$，$P_i\cdots P_2{P}_{1}E=A^{-1}$。

$\left[A⋮B\right]\stackrel{r}{\sim }\left[E⋮A^{-1}\right]$，$\left[\begin{array}{c}A\\ B\end{array}\right]\stackrel{c}{\sim }\left[\begin{array}{c}E\\ A^{-1}\end{array}\right]$。

例题：求解矩阵方程$AX=B$，$A=\left(\begin{array}{ccc}2& 1& -3\\ 1& 2& -2\\ -1& 3& 2\end{array}\right)$，$B=\left(\begin{array}{cc}1& -1\\ 2& 0\\ -2& 5\end{array}\right)$。

解：因为$AX=B$，所以左乘$A^{-1}$：$A^{-1}AX=EX=A^{-1}B$，增广矩阵行变换：

$(A,B)=\left(\begin{array}{ccccc}2& 1& -3& 1& -1\\ 1& 2& -2& 2& 0\\ -1& 3& 2& -2& 5\end{array}\right)\sim \left(\begin{array}{ccccc}1& 2& -2& 2& 0\\ 0& -3& 1& -3& -1\\ 0& 5& 0& 0& 5\end{array}\right)$

$\sim \left(\begin{array}{ccccc}1& 2& -2& 2& 0\\ 0& 1& 0& 0& 1\\ 0& 0& 1& -3& 2\end{array}\right)\sim \left(\begin{array}{ccccc}1& 0& 0& -4& 2\\ 0& 1& 0& 0& 1\\ 0& 0& 1& -3& 2\end{array}\right)$，从而$X=\left(\begin{array}{cc}-4& 2\\ 0& 1\\ -3& 2\end{array}\right)$。

矩阵秩

定义

秩的本质就是组成矩阵的线性无关的向量个数。

若秩等于矩阵行数就是满秩，否则就是降秩。

💻 计算机专业视角

「秩」衡量的是矩阵里真正独立的信息量，「低秩」则是数据压缩与机器学习的核心思想。一个矩阵的秩 = 它行（列）向量张成空间的维数，也等于非零奇异值的个数。现实中的大矩阵往往「近似低秩」：用户-电影评分矩阵之所以能被推荐系统补全，正因为它可以用低秩矩阵近似（矩阵分解）；图像压缩、PCA 降维、大模型的 LoRA 微调，本质都是「用两个瘦长矩阵的乘积去逼近一个大矩阵」，把存储和计算从 $O(mn)$ 降到 $O((m+n)r)$。数值上算秩不能直接数行，而要靠 SVD 看有多少个奇异值显著大于 0（容差以内的当作 0）。

🌱 大一新生提示

秩可以理解为「矩阵里有几行是真正提供新信息的」。如果某一行能由其他行加减、缩放拼出来（线性相关），它就不贡献新信息、不计入秩。秩等于行数叫「满秩」，说明所有行都独立；否则叫「降秩」，说明有冗余。判断秩的标准做法是把矩阵化成行阶梯形，数一数非零行的个数。秩和后面的方程组解、可逆性紧密相关：方阵满秩 ⟺ 可逆 ⟺ 行列式非零。

性质

$r(kA)=r(A)$。

$r(AB)⩽\min \{r(A),r(B)\}$。当且仅当$AB$满秩等号成立。

$r(A+B)⩽r(A|B)⩽r(A)+r(B)$。

$r(A^{\ast })=\{\begin{array}{l}n,r(A)=n\\ 1,r(A)=n-1\\ 0,r(A)<n-1\end{array}$。

$AB=O$，$r(A)+r(B)⩽$阶数，即变量数或列数。

子式

在矩阵中，任取$k$行和$k$列 ，位于这些行和列的交点上的 个元素原来的次序所组成的$k$阶方阵的行列式，叫做$A$的一个$k$阶子式。

当$r(A)=r$时：

• $A$中一定有$r$阶子式不为0，但并不要求所有的$r$阶子式都不为0。即至少存在一个不为0的$r$阶子式让原式秩保持$r$。
• $A$中一定有$r-1$阶子式不为0，但并不要求所有的$r-1$阶子式都不为0。
• 而$r+1$阶子式则必须全为0。

等价矩阵

定义

定义：若有两个同型的$m\times n$的矩阵$AB$，满足$B=QAP$（$Q$为$m\times m$阶可逆矩阵，$P$为$n\times n$阶可逆矩阵），则$AB$等价。

性质

• 矩阵$A$和$A$等价（反身性）。
• 矩阵$A$和$B$等价，那么$B$和$A$也等价（等价性）。
• 矩阵$A$和$B$等价，矩阵$B$和$C$等价,那么$A$和$C$等价（传递性）。
• 矩阵$A$和$B$等价，那么$|A|=k|B|$。（$k$为非零常数）。
• 具有行等价关系的矩阵所对应的线性方程组有相同的解。

判定

定理：若$AB$同型且秩相等，则其等价。