Pytorch学习笔记：根据optimizer_type选择优化器

文章作者：佚名人气：发表时间：2024-08-12 02:53:13

1 优化器模块的作用 1.1 反向传播的核心思想反向传播的意义下雨告诉模型我们需要将权重修改到什么数值可以得到最优解，在开始探索合适权重的过程中，正向传播所生成的结果与实际标签/目标值存在误差，反向传播通过这个误差传递给权重，要求权重进行适当的调整来达到一个合适的输出，最终使得正向传播所预测的结果与标签的目标值的误差达到最小，以上即为反向传播的核心思想 1.2 优化器简介正向结构与损失函数获取完毕之后，通过优化器模块中优化函数来实现对学习参数的优化，其内部原理主要是梯度下降的方法实现的