【AI基础：数学 】1、线性代数九层架构：从数学基石到AI应用的全景解析

一、引言：为什么线性代数是"九层之台"的基石？

“九层之台，起于累土”——这句古训精准揭示了线性代数的本质：它是现代科学与工程的基础砖石，从最朴素的标量、向量，到复杂的奇异值分解、高维空间变换，层层递进构建起描述世界的数学框架。无论是AI领域的神经网络、图像识别，还是物理中的量子力学、工程中的3D建模，其底层逻辑都离不开线性代数的语言。

本文将以"九层架构"为骨架，系统整合线性代数的核心概念、运算规则与应用场景，既剖析数学本质，又阐释几何意义，最终落地到AI等前沿领域的实践价值。通过"概念定义→运算规则→几何直观→应用案例"的四层递进，让读者从"会计算"到"懂本质"，真正掌握这门基础学科的精髓。

二、第1层：标量与向量——线性代数的"原子与分子"

2.1 标量：零维世界的"数字积木"

• 定义：仅包含大小（无方向）的单个数，可表示为整数、实数或复数。
• 计算机存储：零维数组（如Python中的int/float）。
• 实例：温度（25℃）、质量（5kg）、概率（0.8）、图像的单个像素灰度值（128）。

2.2 向量：一维空间的"方向箭头"

• 定义：由多个标量组成的有序序列，既有大小（长度），又有方向（在n维空间中）。
• 表示形式：
  • 列向量（常用）：$\mathbf{v}=\left[\begin{array}{c}{v}_1\\ v_2\\ ⋮\\ v_n\end{array}\right]$（n×1矩阵）
  • 行向量：$\mathbf{v}=\left[\begin{array}{cccc}{v}_1& v_2& \cdots & v_n\end{array}\right]$（1×n矩阵）
• 几何意义：n维空间中从原点指向点$(v_1,v_2,...,v_n)$的有向线段。例如：
  • 2D向量$\left[\begin{array}{c}3\\ 4\end{array}\right]$表示从原点指向(3,4)的箭头，长度为5（由勾股定理计算）。

2.3 向量的核心运算

2.3.1 加法：平行四边形法则

• 代数规则：分量对应相加，$\mathbf{u}+\mathbf{v}=\left[\begin{array}{c}{u}_1+v_1\\ u_2+v_2\\ ⋮\\ u_n+v_n\end{array}\right]$。
• 几何意义：以$\mathbf{u}$和$\mathbf{v}$为邻边的平行四边形对角线（或三角形法则：将$\mathbf{v}$的起点接$\mathbf{u}$的终点，从$\mathbf{u}$起点到$\mathbf{v}$终点的向量）。

2.3.2 标量乘法：缩放与反向

• 代数规则：标量$k$与向量$\mathbf{v}$的每个分量相乘，$k\mathbf{v}=\left[\begin{array}{c}k{v}_1\\ k{v}_2\\ ⋮\\ k{v}_n\end{array}\right]$。
• 几何意义：
  • 若$k>0$：向量方向不变，长度缩放为原来的$|k|$倍；
  • 若$k<0$：向量方向反向，长度缩放为原来的$|k|$倍。

2.3.3 线性组合：向量空间的"基本构造器"

• 定义：由多个向量与标量系数相乘后相加的形式：$k_1{\mathbf{v}}_1+k_2{\mathbf{v}}_2+...+k_m{\mathbf{v}}_m$（$k_i$为标量）。
• 意义：线性组合是构建向量空间的核心工具。例如，2D平面中任何向量都可表示为${\mathbf{e}}_1=\left[\begin{array}{c}1\\ 0\end{array}\right]$和${\mathbf{e}}_2=\left[\begin{array}{c}0\\ 1\end{array}\right]$的线性组合（即坐标分解）。

2.4 向量的"尺度"与"关系"：范数与内积

2.4.1 范数：向量的"长度"度量

• 定义：描述向量"大小"的函数，记为$\Vert \mathbf{x}{\Vert }_p$，通用公式：
  $$\Vert \mathbf{x}{\Vert }_p={\left(\sum _{i=1}^n|x_i{|}^p\right)}^{1/p}$$
• 常用范数：
  • $L_1$范数（曼哈顿距离）：$\Vert \mathbf{x}{\Vert }_1={\sum }_{i=1}^n|x_i|$ → 用于特征选择（Lasso回归）、异常检测；
  • $L_2$范数（欧氏距离）：$\Vert \mathbf{x}{\Vert }_2=\sqrt{{\sum }_{i=1}^n{x}_i^2}$ → 用于向量相似度计算（如推荐系统的余弦相似度）；
  • $L_{\infty }$范数（切比雪夫距离）：$\Vert \mathbf{x}\Vert$