adagrad

Adagrad是一种针对深度学习模型的优化算法，它解决了不同参数需要不同学习率的问题。通过自适应地调整每个参数的学习率，Adagrad在梯度大时减小步长，防止过拟合；在梯度小时增大步长，促进学习。这种机制使得算法在处理稀疏数据时表现出色。