详解梯度下降算法 正确训练模型利刃！

　　如果你在情节中看到你的学习曲线正在上升和下降，而没有真正达到低点，你也应该尝试降低学习速度。顺便说一下，当你在一个给定的问题上开始使用梯度下降法时，只需简单地尝试0.001,0.003,0.01,0.03,0.1,0.3,1等等，看看它的学习速度哪一个表现最好。

　　梯度下降的类型

　　外面有三种流行的梯度下降类型，主要是它们使用的数据量不同，我们一一浏览它们。

　　批次梯度下降

　　批次梯度下降也称为香草梯度下降，计算训练数据集内每个示例的误差，但只有在所有训练样例已经评估后，模型才会更新。整个过程就像一个循环，称为训练时代。

（编辑：91站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!