非势方程的变分原理与残差界

### 非势方程的变分原理与残差界 在数学领域中，对于非势方程的求解和分析一直是一个重要的研究方向。本文将深入探讨非对称线性方程以及半线性方程的变分原理和残差界相关内容。 #### 1. 引言 在处理有限维方程组的无约束全局优化问题时，对于非势类型的方程，我们采用了一种特殊的方法。这类方程并非直接由可微函数的临界点得到。首先，我们以一个非对称但对称部分正定的矩阵所涉及的线性方程为例进行说明。 #### 2. 非对称线性方程的鞍点特征 设 \(A\) 是一个 \(n×n\) 的实矩阵，满足强制性（或椭圆性）条件：存在 \(a_0 > 0\)，使得对于所有 \(x ∈ R^n\)，有 \(\langle Ax, x\rangle \geq a_0 \|x\|^2\)。这里的括号表示通常的欧几里得内积，范数是通常的 2 - 范数。 当 \(A\) 是实对称且强制时，线性方程 \(Ax = f\) 的解是能量泛函 \(E(x) := \langle Ax, x\rangle - 2\langle f, x\rangle\) 在 \(R^n\) 上的唯一极小值点。 当 \(A\) 是强制但非实对称时，我们可以将方程 \(Ax = f\) 的解表征为一个二次凸 - 凹函数的鞍点。具体步骤如下： - 令 \(A_S := (A + A^T)/2\) 和 \(B := (A - A^T)/2\) 分别为 \(A\) 的对称和反对称部分，\(D\) 是一个对角正定矩阵，\(C := A_S - D\)。则方程 \(Ax = f\) 可写为 \((B + C + D)x = f\)。 - 考虑函数 \(L : R^n × R^n → R\)，定义为 \(L(x, y) := \langle (A_S - D/2)x, x\rangle + \langle f, y - x\rangle - \langle (B + C)x, y\rangle - \frac{1}{2}\langle Dy, y\rangle\)。 - 若 \(D < 2A_S\)，则函数 \(L\) 有唯一的鞍点 \((\hat{x}, \hat{x})\)，其中 \(\hat{x}\) 是方程 \(Ax = f\) 的唯一解。证明过程如下： - 对于给定的 \(y ∈ R^n\)，\(L(., y)\) 是连续的。当 \(D < 2A_S\) 时，该函数是严格凸的，且存在 \(\delta > 0\) 和函数 \(c\)，使得 \(L(x, y) \geq \delta \|x\|^2 - [\|f\| + \|(C - B)y\|] \|x\| + c(y)\)，所以 \(L(., y)\) 对于每个 \(y ∈ R^n\) 是强制的。同理，\(-L(x,.)\) 对于每个 \(x ∈ R^n\) 是连续、严格凸且强制的。根据通常的极小极大定理，\(L\) 在 \(R^n × R^n\) 中有鞍点。 - 因为 \(L\) 是连续可微的，鞍点是系统 \(\nabla_x L(x, y) = (2A_S - D)x + (B - C)y - f = 0\) 和 \(\nabla_y L(x, y) = f - (B + C)x - Dy = 0\) 的解。将这两个方程相加得到 \((C + D - B)(x - y) = 0\)，取内积可得 \(\langle A_S(x - y), x - y\rangle \geq a_0 \|x - y\|^2 = 0\)，所以鞍点必须具有 \((\hat{x}, \hat{x})\) 的形式，且 \(\hat{x}\) 满足方程 \(Ax = f\)。解的唯一性由强制性条件得出。 #### 3. 非对称线性方程的变分原理 一个凸 - 凹鞍点问题定义了一对相关的对偶变分原理。 - **原问题**：定义函数 \(G : R^n → R\) 为 \(G(x) := \sup_{y∈R^n} L(x, y)\)。原问题是在 \(R^n\) 上最小化 \(G\)。通过对 \(y\) 进行最大化操作，可得 \(G(x) = \frac{1}{2}\langle (A_S - D/2)x, x\rangle - \langle f, x\rangle + \frac{1}{2}\langle D^{-1}(f - (B + C)x), f - (B + C)x\rangle\)。 - 定理表明，若 \(A\)、\(B\)、\(C\)、\(D\) 满足上述条件且强制性条件成立，则 \(G\) 在 \(R^n\) 上是严格凸且强制的，有唯一的极小值点 \(\hat{x}\)，且 \(\hat{x}\) 是方程 \(Ax = f\) 的唯一解。证明过程如下： - 因为 \(D^{-1}\) 是对角且对角元素为正，经过简单代数运算可得 \(G(x) = \frac{1}{2} \langle D^{-1}(f - Ax), f - Ax\rangle = \frac{1}{2}\langle D^{-1}Ax, Ax\rangle - \langle A^T D^{-1}f, x\rangle + \frac{1}{2}\langle D^{-1}f, f\rangle\)。 - 由强制性条件和柯西不等式可得 \(\|Ax\| \geq a_0 \|x\| \)，设 \(d_M\) 是对角矩阵 \(D\) 中的最大元素，则 \(G(x) \geq \frac{a_0}{2d_M} \|x\|^2 - c_1 \|f\| \|x\| + c_2\)，这表明 \(G\) 是严格凸且强制的。\(G\) 是连续的，所以达到其下确界，且极小值点唯一。对 \(G\) 求导可得 \(\nabla G(x) = A^T D^{-1}(Ax - f)\)，在极小值点处必须为零，由于 \(A\) 和 \(D\) 非奇异，所以极小值点满足方程 \(Ax = f\)。 - 设 \(r(x) := f - Ax\) 为 \(x\) 关于方程 \(Ax = f\) 的残差，则 \(G(x) = \frac{1}{2} \langle D^{-1}r, r\rangle \geq \frac{1}{2d_M} \|r(x)\|^2\)。这表明在 \(R^n\) 上最小化 \(G\) 的变分原理是求解方程 \(Ax = f\) 的加权（或预条件）最小残差原理。由此可得后验误差估计：当 \(\hat{x}\) 是方程 \(Ax = f\) 的解，\(x ∈ R^n\) 时，有 \(A(x - \hat{x}) = r\)，通过内积运算和强制性条件可得 \(\|x - \hat{x}\| \leq a_0^{-1} \|r\| \leq a_0^{-1}\sqrt{2d_M G(x)}\)。 - **对偶问题**：对偶问题是最大化 \(H : R^n → R\)，定义为 \(H(y) := \inf_{x∈R^n} L(x, y)\)。其显式公式为 \(H(y) = -\frac{1}{2}\langle (2C + D)^{-1}(f + (C - B)y), f + (C - B)y\rangle + \langle f, y\rangle - \frac{1}{2}\langle Dy, y\rangle\)。由于计算 \((2C + D)^{-1}\) 通常比确定 \(D^{-1}\) 更费力，所以我们主要关注原问题。对偶泛函与 \(-G\) 有非常相似的性质。 下面用一个 mermaid 流程图来展示非对称线性方程求解的主要步骤： ```mermaid graph LR A[给定矩阵 A 和向量 f] --> B[分解 A 为 A_S 和 B] B --> C[选择对角正定矩阵 D] C --> D[定义函数 L(x, y)] D --> E[判断 D < 2A_S] E -- 是 --> F[求 L 的鞍点 (\hat{x}, \hat{x})] F --> G[\hat{x} 为方程 Ax = f 的解] E -- 否 --> H[调整 D 的值] H --> D ``` #### 4. 半线性方程 I 的变分原理 考虑形式为 \(Ax = F(x)\) 的方程，其中 \(A\) 是一个实 \(n×n\) 矩阵，是强制的但不一定对称，\(F : R^n → R^n\) 是一个连续函数。 - 令 \(B\)、\(C\) 和 \(D\) 如前定义，方程可写为 \(F(x) - (B + C)x = Dx = \nabla q(x)\)，其中 \(q(x) := \frac{1}{2}\langle Dx, x\rangle\)。 - 考虑函数 \(G : R^n → R\)，定义为 \(G(x) := \frac{1}{2}\langle Dx, x\rangle + \frac{1}{2}\langle D^{-1}(F(x) - (B + C)x), F(x) - (B + C)x\rangle + \langle Cx - F(x), x\rangle\)。 - 定理表明，函数 \(G\) 是连续的且值 \(\alpha(G) \geq 0\)。点 \(\hat{x} ∈ R^n\) 是方程 \(Ax = F(x)\) 的解当且仅当 \(\hat{x}\) 在 \(R^n\) 上最小化 \(G\) 且 \(G(\hat{x}) = 0\)。证明过程如下： - 设 \(q(x)\) 为上述二次型，其共轭函数为 \(q^*(z) := \frac{1}{2}\langle D^{-1}z, z\rangle\)。根据广义杨氏不等式，\(q(x) + q^*(F(x) - (B + C)x) - \langle F(x) - (B + C)x, x\rangle \geq 0\)，由于 \(B\) 是反对称的，所以 \(G(x) \geq 0\)，即 \(\alpha(G) \geq 0\)。等式成立当且仅当 \(F(x) - (B + C)x = Dx\)，即方程 \(Ax = F(x)\)，此时 \(G(x) = 0\)。 - 设 \(r(x) := Ax - F(x)\) 为该方程在点 \(x ∈ R^n\) 处的残差，则 \(G(x) = \frac{1}{2} \langle D^{-1}r(x), r(x)\rangle \geq \frac{1}{2d_M} \|r(x)\|^2\)。这表明 \(G\) 是该问题的加权残差函数，\(G(x)\) 小意味着残差小。但在没有对非线性项 \(F\) 进一步条件的情况下，残差小并不保证点 \(x\) 接近原方程的解。 - 考虑函数 \(M : R^n × R^n → R\)，定义为 \(M(x, y) := \langle (A_S - D/2)x, x\rangle + \langle F(x), y - x\rangle - \langle (B + C)x, y\rangle - \frac{1}{2}\langle Dy, y\rangle\)。点 \((\hat{x}, \hat{y}) ∈ R^n × R^n\) 称为 \(M\) 的极小 - 极大点，如果 \(M(\hat{x}, \hat{y}) = \inf_{x∈R^n} \sup_{y∈R^n} M(x, y)\)。显然，\(M\) 的鞍点是极小 - 极大点，但反之不一定成立。由于 \(G(x) = \sup_{y∈R^n} M(x, y)\)，所以 \((\hat{x}, \hat{y})\) 是 \(M\) 的极小 - 极大点意味着 \(\hat{x}\) 是 \(G\) 的极小值点。 下面用一个表格来总结不同类型方程的相关信息： | 方程类型 | 方程形式 | 变分函数 | 解的特征 | | ---- | ---- | ---- | ---- | | 非对称线性方程 | \(Ax = f\) | \(L(x, y), G(x), H(y)\) | \(G\) 的极小值点为方程的解 | | 半线性方程 I | \(Ax = F(x)\) | \(G(x), M(x, y)\) | \(G\) 的极小值点且 \(G(\hat{x}) = 0\) 为方程的解 | 综上所述，通过变分原理和残差界的分析，我们为非对称线性方程和半线性方程的求解提供了有效的方法和误差估计。在实际应用中，我们可以根据具体问题选择合适的矩阵 \(D\) 来优化求解过程。同时，对于半线性方程，还需要进一步研究非线性项 \(F\) 的性质以确保解的准确性。 #### 5. 半线性方程 I 的进一步分析：极小 - 极大问题 为了获得关于非线性项 \(F\) 的条件，使得残差小能保证点 \(x\) 接近原方程的解，我们使用相关的极小 - 极大问题。这里需要一个关于极小 - 极大点存在性的一般结果。 **定理 2.4**：设 \(K\) 是 \(R^n\) 中的非空闭凸集，假设 \(M : K × K → R\) 满足： (i) \(M(x, x) ≤ 0\) 对于所有 \(x\) 在 \(K\) 中。 下面我们详细分析这个极小 - 极大问题与半线性方程解的关系。 - 函数 \(M(x, y)\) 定义为 \(M(x, y) := \langle (A_S - D/2)x, x\rangle + \langle F(x), y - x\rangle - \langle (B + C)x, y\rangle - \frac{1}{2}\langle Dy, y\rangle\)。 - 若 \((\hat{x}, \hat{y})\) 是 \(M\) 的极小 - 极大点，即 \(M(\hat{x}, \hat{y}) = \inf_{x∈R^n} \sup_{y∈R^n} M(x, y)\)，由于 \(G(x) = \sup_{y∈R^n} M(x, y)\)，所以 \(\hat{x}\) 是 \(G\) 的极小值点。 我们可以用以下步骤来求解半线性方程 \(Ax = F(x)\) 并利用极小 - 极大问题： 1. 给定矩阵 \(A\) 和函数 \(F\)。 2. 分解 \(A\) 为对称部分 \(A_S\) 和反对称部分 \(B\)，选择对角正定矩阵 \(D\)。 3. 定义函数 \(M(x, y)\) 和 \(G(x)\)。 4. 检查 \(M\) 是否满足定理 2.4 的条件。 5. 若满足，求 \(M\) 的极小 - 极大点 \((\hat{x}, \hat{y})\)，则 \(\hat{x}\) 是 \(G\) 的极小值点，若 \(G(\hat{x}) = 0\)，则 \(\hat{x}\) 是方程 \(Ax = F(x)\) 的解。 下面用 mermaid 流程图展示这个过程： ```mermaid graph LR A[给定矩阵 A 和函数 F] --> B[分解 A 为 A_S 和 B] B --> C[选择对角正定矩阵 D] C --> D[定义函数 M(x, y) 和 G(x)] D --> E[检查 M 是否满足定理 2.4 条件] E -- 是 --> F[求 M 的极小 - 极大点 (\hat{x}, \hat{y})] F --> G[\hat{x} 为 G 的极小值点] G --> H[判断 G(\hat{x}) = 0] H -- 是 --> I[\hat{x} 为方程 Ax = F(x) 的解] H -- 否 --> J[调整参数或方法] J --> D E -- 否 --> J ``` #### 6. 总结与实际应用建议 通过前面的分析，我们对非对称线性方程和半线性方程的变分原理和残差界有了深入的了解。以下是一些总结和实际应用中的建议： **总结**： - 对于非对称线性方程 \(Ax = f\)，我们可以通过将其转化为凸 - 凹鞍点问题，利用函数 \(L(x, y)\) 来求解。原问题是最小化 \(G(x)\)，它是加权最小残差原理，能提供后验误差估计。对偶问题是最大化 \(H(y)\)，但计算相对复杂。 - 对于半线性方程 \(Ax = F(x)\)，我们定义了函数 \(G(x)\) 和 \(M(x, y)\)。\(G\) 的极小值点且 \(G(\hat{x}) = 0\) 为方程的解，通过极小 - 极大问题可以进一步分析非线性项 \(F\) 对解的影响。 **实际应用建议**： - **矩阵 \(D\) 的选择**：在非对称线性方程和半线性方程的求解中，矩阵 \(D\) 的选择很关键。它需要满足 \(D < 2A_S\) 且为对角正定矩阵。在实际应用中，可以通过尝试不同的 \(D\) 值，观察 \(G(x)\) 的值和残差的大小来优化求解过程。 - **非线性项 \(F\) 的处理**：对于半线性方程，非线性项 \(F\) 的性质对解的准确性有很大影响。可以通过分析 \(F\) 的连续性、可微性等性质，结合极小 - 极大问题来确保解的准确性。例如，若 \(F\) 满足一定的 Lipschitz 条件，可能会更容易得到解的收敛性。 下面用一个表格总结不同方程类型的求解要点和应用建议： | 方程类型 | 求解要点 | 应用建议 | | ---- | ---- | ---- | | 非对称线性方程 \(Ax = f\) | 转化为鞍点问题，最小化 \(G(x)\) | 选择合适的 \(D\) 优化求解，利用误差估计判断解的准确性 | | 半线性方程 \(Ax = F(x)\) | 定义 \(G(x)\) 和 \(M(x, y)\)，求 \(G\) 的极小值点且 \(G(\hat{x}) = 0\) | 分析 \(F\) 的性质，结合极小 - 极大问题确保解的准确性 | 综上所述，通过变分原理和残差界的研究，我们为非对称线性方程和半线性方程的求解提供了系统的方法和理论支持。在实际应用中，我们可以根据具体问题灵活运用这些方法，不断优化求解过程，提高解的准确性。