数学基础 -- 线性代数之矩阵的秩

最新推荐文章于 2025-07-09 23:20:23 发布

原创最新推荐文章于 2025-07-09 23:20:23 发布 · 9.7k 阅读

82 ·

CC 4.0 BY-SA版权

文章标签：

#线性代数 #矩阵 #机器学习

矩阵的秩：概念与应用

1. 概述

矩阵的秩（Rank）是线性代数中的一个基本概念，它衡量了矩阵中行或列向量的线性无关性。矩阵的秩在解线性方程组、矩阵分解、确定线性变换的维度等方面起着重要作用。

2. 矩阵的秩的定义

矩阵的秩可以从以下几个角度进行定义：

行秩：矩阵的行秩是指矩阵中最大线性无关行向量的个数。
列秩：矩阵的列秩是指矩阵中最大线性无关列向量的个数。

在一个矩阵中，行秩和列秩总是相等的，因此我们通常将矩阵的秩称为矩阵的秩，即行秩和列秩的共同值。

3. 矩阵秩的几何解释

矩阵的秩可以看作是矩阵将一个空间映射到另一个空间时，目标空间的维数。例如：

在二维平面中，一个 $\times 2$ 的矩阵的秩为 2，表示该矩阵将二维空间中的向量映射到另一个二维空间。
如果矩阵的秩为 1，则它将二维空间中的向量映射到一条线上（即维数为 1 的子空间）。

4. 计算矩阵的秩的方法

4.1 行阶梯形法（高斯消元法）

行阶梯形法是通过初等行变换将矩阵化为行阶梯形或简化行阶梯形的形式。行阶梯形中非零行的数量就是矩阵的秩。

步骤：

对矩阵进行初等行变换，将其化为行阶梯形或简化行阶梯形。
计算行阶梯形中非零行的数目，这就是矩阵的秩。

示例：

考虑矩阵 $A$ ：

$\begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9 \end{pmatrix}$

通过初等行变换化为行阶梯形：

$\begin{pmatrix} 1 & 2 & 3 \\ 0 & -3 & -6 \\ 0 & 0 & 0 \end{pmatrix}$

行阶梯形中有两行非零行，因此矩阵 $A$ 的秩为 2。

4.2 使用行列式

对于一个 $\times n$ 的方阵，如果其行列式不为零，则该矩阵的秩为 $n$ 。如果行列式为零，则需要检查子矩阵的行列式，直到找到最大的非零子矩阵的维度，这个维度就是矩阵的秩。

示例：

考虑矩阵 $B$ ：

$\begin{pmatrix} 1 & 2 \\ 2 & 4 \end{pmatrix}$

行列式为：

$\det(B) = 1 \times 4 - 2 \times 2 = 0$

由于行列式为零，因此矩阵 $B$ 的秩小于 2。检查其子矩阵：

子矩阵 $(1)\begin{pmatrix} 1 \end{pmatrix}$ 和 $(2)\begin{pmatrix} 2 \end{pmatrix}$ 的行列式均不为零，所以矩阵的秩为 1。

4.3 使用线性方程组

考虑矩阵 $A$ 的列向量 $v1,v2,…,vn\mathbf{v}_1, \mathbf{v}_2, \dots, \mathbf{v}_n$ ，将这些向量的线性组合设置为零向量，解线性方程组 $c1v1+c2v2+⋯+cnvn=0c_1 \mathbf{v}_1 + c_2 \mathbf{v}_2 + \dots + c_n \mathbf{v}_n = \mathbf{0}$ 。解的自由变量的数目越多，线性无关的向量就越少，秩就是线性无关向量的个数。

5. 矩阵秩的性质

矩阵的秩具有以下性质：

秩的上界：矩阵 $A$ 的秩不超过其行数和列数中的较小者，即 $Rank(A)≤min⁡(行数,列数)\text{Rank}(A) \leq \min(\text{行数}, \text{列数})$ 。
转置矩阵的秩：矩阵 $A$ 和其转置矩阵 $A^T$ 的秩相同，即 $Rank(A)=Rank(AT)\text{Rank}(A) = \text{Rank}(A^T)$ 。
矩阵乘积的秩：对于两个矩阵 $A$ 和 $B$ ，有 $Rank(AB)≤min⁡(Rank(A),Rank(B))\text{Rank}(AB) \leq \min(\text{Rank}(A), \text{Rank}(B))$ 。
矩阵和的秩：对于两个矩阵 $A$ 和 $B$ ，有 $Rank(A+B)≤Rank(A)+Rank(B)\text{Rank}(A + B) \leq \text{Rank}(A) + \text{Rank}(B)$ 。
可逆矩阵的秩：如果矩阵 $A$ 是 $\times n$ 的可逆矩阵，则其秩为 $n$ 。即，只有当矩阵的秩等于其维数时，矩阵才是可逆的。

6. 矩阵秩的应用

6.1 解线性方程组

线性方程组 $A X = B$ 的解的个数与系数矩阵 $A$ 的秩密切相关：

如果 $A$ 的秩等于 $A$ 的列数（满秩），方程组有唯一解。
如果 $A$ 的秩小于列数，方程组可能有无穷多解或无解。
如果 $A$ 的秩等于增广矩阵 $[A ∣ B]$ 的秩，则方程组有解。

6.2 线性变换的维度

在线性变换中，矩阵的秩表示变换后的空间的维度。对于线性变换 $\mathbb{R}^n \rightarrow \mathbb{R}^m$ ，矩阵的秩表示目标空间的维度。

6.3 数据压缩与信号处理

在信号处理和数据压缩中，矩阵秩用于表示信号或数据的复杂性。低秩矩阵通常用于压缩信号或图像，因为它们能够近似地表示原始数据。

7. 例子说明

7.1 例子 1：求解矩阵的秩

考虑矩阵 $C$ ：

$\begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9 \end{pmatrix}$

使用行阶梯形法将其化为行阶梯形：

$\begin{pmatrix} 1 & 2 & 3 \\ 0 & -3 & -6 \\ 0 & 0 & 0 \end{pmatrix}$

非零行有两行，因此矩阵 $C$ 的秩为 2。

7.2 例子 2：判断方程组的解的情况

考虑线性方程组 $A X = B$ ，其中：

$\begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9 \end{pmatrix}, \quad B = \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix}$

增广矩阵为：

$\begin{pmatrix} 1 & 2 & 3 & | & 1 \\ 4 & 5 & 6 & | & 0 \\ 7 & 8 & 9 & | & 0 \end{pmatrix}$

使用行阶梯形法化简：

$\begin{pmatrix} 1 & 2 & 3 & | & 1 \\ 0 & -3 & -6 & | & -4 \\ 0 & 0 & 0 & | & 0 \end{pmatrix}$

秩 $Rank(A)=2\text{Rank}(A) = 2$ ，而增广矩阵的秩也是 2，因此方程组有解，但由于 $A$ 的秩小于列数，解是无穷多的。

8. 线性无关的概念

8.1 什么是线性无关？

一组向量 $v1,v2,…,vn\mathbf{v}_1, \mathbf{v}_2, \dots, \mathbf{v}_n$ 是线性无关的，如果只有当所有系数 $c1,c2,…,cnc_1, c_2, \dots, c_n$ 都为零时，线性组合 $c1v1+c2v2+⋯+cnvn=0c_1 \mathbf{v}_1 + c_2 \mathbf{v}_2 + \dots + c_n \mathbf{v}_n = \mathbf{0}$ 才成立。

线性无关：向量之间不存在线性相关性，无法用其他向量的线性组合来表示其中任一向量。
线性相关：如果存在非零的系数 $c_i$ ，使得上述线性组合等于零，则这些向量是线性相关的。

8.2 为什么线性无关很重要？

构成基：线性无关的向量可以构成向量空间的基（Basis），这意味着它们可以独立地表示空间中的所有向量。
减少冗余：线性无关性确保了向量之间没有冗余信息，这在实际计算和理论分析中都非常重要。

9. 秩与线性无关的关系

秩实际上就是矩阵中线性无关向量的个数，这反映了矩阵的独立信息量。

自由变量与秩：在线性方程组的解中，自由变量的数量越多，表示系统的约束越少，线性无关的向量越少，秩就越小。
秩的作用：秩就是用来独立表达一个维度的信息量，因此它必须由线性无关的向量来决定。

9.1 举例说明

考虑一个矩阵：

$\begin{pmatrix} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 3 & 6 & 9 \end{pmatrix}$

这个矩阵的三列向量是：

$\mathbf{v}_1 = \begin{pmatrix} 1 \\ 2 \\ 3 \end{pmatrix}, \quad \mathbf{v}_2 = \begin{pmatrix} 2 \\ 4 \\ 6 \end{pmatrix}, \quad \mathbf{v}_3 = \begin{pmatrix} 3 \\ 6 \\ 9 \end{pmatrix}$