百叶书的博客

PyTorch学习之梯度下降法一元一次方程求解数据点生成误差公式梯度下降法循环迭代总运行函数程序入口 一元一次方程求解 求解一元一次方程，如y=wx+b，其中x，y数据都是存在噪声的，要想求得该方程的参数，w和b值，需要求解成百组乃至上千组表现好的方程组。 实战代码流程： 数据点生成 随机生成100组数据点，代码如下： import numpy as np from numpy import random point=np.random.normal(50,2.5,size=(100,2)) np.save

导数、偏微分均为标量，而梯度是向量。∇f∂f∂x1;∂f∂x2;⋯;∇f∂x1​∂f​;∂x2​∂f​;⋯;∂xn​∂f​θt1θt−αt∇fθtθt1​θt​−αt​∇fθt​对于凸函数，存在全局最优解，可利用梯度下降法求解得到。但是当利用梯度下降法求解某函数的最优值时，可能会求得的解为鞍点。