金融时间序列预测与线性规划模型分析

# 金融时间序列预测与线性规划模型分析 在金融时间序列预测和数据分类领域，有两种重要的技术和模型值得深入探讨，分别是多层感知器（MLP）的滞后相关正则化技术以及正则化多准则线性规划（RMCLP）模型。下面将详细介绍这两种技术和模型的原理、实验结果以及相关分析。 ## 1. MLP滞后相关正则化技术用于金融时间序列预测 ### 1.1 MLP基本映射 MLP通过给定的架构和权重向量\(w\)，将输入向量\(x\)映射到预测输出\(y\)，即\(y = f (x, w)\)。在金融时间序列预测任务中，输入向量\(x = (x_1, x_2, \ldots, x_D)\)通常是滞后收益率向量，如\(x_1 = r_{t - 1}\)，\(x_2 = r_{t - 2}\)等。目标是根据给定的数据\(D\)，找到合适的权重向量\(w\)。 ### 1.2 最大似然训练 传统的寻找权重向量\(w\)的方法是使用梯度下降法，以最小化网络输出值\(f(x, w)\)和目标值\(y\)之间的误差。假设目标是预测收益率序列下一个值的变化方向，即变化为正的概率。在目标值为二进制（正变化\(y = 1\)，负变化\(y = 0\)）的假设下，给定权重向量\(w\)时，观察到训练数据\(D\)的似然性为： \[ p(D|\mathbf{w}) = \prod_{n=1}^{N} [f(\mathbf{x}_n, \mathbf{w})^{y_n} (1 - f(\mathbf{x}_n, \mathbf{w}))^{1 - y_n}] = \exp\left(\sum_{n=1}^{N} [y_n \ln f(\mathbf{x}_n, \mathbf{w}) + (1 - y_n) \ln(1 - f(\mathbf{x}_n, \mathbf{w}))]\right) \] 同时，假设权重的先验分布是均值为\(0\)、逆方差为\(\alpha\)的高斯分布： \[ p(\mathbf{w}) = \left(\frac{\alpha}{2\pi}\right)^{m/2} \exp\left(-\frac{\alpha}{2} \sum_{i=1}^{m} w_i^2\right) \] 要找到使似然性和先验分布乘积最大的权重向量，等价于最小化以下误差项： \[ E = - \sum_{n=1}^{N} [y_n \ln f(\mathbf{x}_n, \mathbf{w}) + (1 - y_n) \ln(1 - f(\mathbf{x}_n, \mathbf{w}))] + \frac{\alpha}{2} \sum_{i=1}^{m} w_i^2 \] 其中，第一项是“交叉熵误差”，第二项是“正则化”项。正则化项惩罚权重幅度较大的权重向量，有助于减少对训练数据的过拟合。 ### 1.3 滞后相关正则化 传统的正则化项对所有权重一视同仁。通过将权重分组，可以实现滞后相关正则化。从判别分类器的角度来看，假设训练示例中的噪声使得近期收益率对应的输入维度比远期收益率对应的输入维度噪声更小。因此，对于不同的输入到输出层权重族，可以使用不同的正则化系数。具体来说，近期收益率对应的输入权重的正则化系数应小于远期收益率对应的输入权重的正则化系数。 输入到隐藏层的权重可以分为\(D + 1\)组，经过指数缩放因子\(e^{-(k - 1)n}\)处理后，正则化表达式为： \[ \frac{\alpha}{2} \left( \sum_{j=1}^{Q} w_{i_0 h_j}^2 + \sum_{n=1}^{D} e^{-(k - 1)n} \sum_{j=1}^{Q} w_{i_n h_j}^2 \right) \] 隐藏到输出层的权重可以作为一个单独的组，完整的正则化表达式为： \[ \frac{\alpha}{2} \left( \sum_{j=1}^{Q} w_{i_0 h_j}^2 + \sum_{n=1}^{D} e^{-(k - 1)n} \sum_{j=1}^{Q} w_{i_n h_j}^2 + \sum_{j=0}^{Q} w_{h_j o}^2 \right) \] 这种修改引入了两个额外的参数：控制正则化系数随输入滞后\(k\)变化率的参数，以及控制整体正则化水平的参数\(\alpha\)。 ### 1.4 实验 将上述方法应用于三个金融时间序列的每日收盘价：澳大利亚所有普通股（AORD）指数、道琼斯工业平均（DJIA）指数和澳元 - 美元外汇（AUSE）汇率。使用1987年1月1日至2006年12月31日的20年样本外预测期，以25天为预测窗口，使用前500个数据点构建模型。输入向量的滞后数为5，隐藏层单元数为50。 #### 1.4.1 测试方向预测准确性 使用符号比率（SR）来衡量方向变化预测的准确性，即测试期间符号预测正确的天数比例。同时，引入符号独立性比率（SRI）： \[ SRI = (P \times \hat{P}) + ((1 - P) \times (1 - \hat{P})) \] 其中，\(P\)是样本外测试期间实际上涨天数的比例，\(\hat