matlab中inv的函数代码-Neural_Network_Hessian_Matrix:Neural_Network_Hes...

matlab中inv的函数代码近似黑森州 本课程的目标是针对太阳黑子数据训练不同的网络并比较结果。 首先，已计算出作为学习率的黑森州矩阵，并将历时误差与使用批处理和R传播的简单反向传播进行了比较。 第一步是创建一个在线神经网络，该网络使用误差1而不计算权重来计算每个模式的权重变化。 然后，已经创建了雅可比矩阵，其中每列对应于权重和图案的每行。 然后，使用雅可比行积乘以雅可比行列的乘积来计算Hessian的近似值。 使用Matlab中的inv函数获得了Hessian的逆，并且为了获得对角线的较小值，添加了以下代码： (0.001*eye(size(Hessian))))/Nb_Patterns)/100 -Nb_Patterns对应于模式数（此处为278） 100是获得较小结果的任意值。 重要的是要注意，该值会极大地改变误差曲线的形状。 复制代码的第一部分时，其误差E等于目标值减去最终输出值，以计算权重delta_weights相对于该误差的变化。 最后，使用以下公式更新权重： W i+1 = W i + Inv_H(a,a) * delta_weights(a) Inv_H对应于先前计