学习率计算器
应用阶跃、指数或余弦衰减计划后计算最终学习率。
如何使用学习率计算器
- 输入您的初始学习率。
- 输入训练纪元数。
- 选择衰减类型。
- 单击“计算”以查看最终的学习率和时间表。
使用场景
- •规划深度学习训练的超参数时间表。
- •比较收敛速度的衰减策略。
- •记录 ML 实验中的训练配置。
- •教授神经网络优化概念。
公式
步骤：lr = lr0 × 0.1^floor(epoch/30)。
常见问题
什么是学习率计划？
学习率计划会随着时间的推移降低学习率，以帮助模型收敛到更好的最小值。
我应该使用哪种衰减类型？
余弦退火在深度学习中很流行；
典型的初始学习率是多少？
常用值范围从 0.0001 到 0.01，具体取决于优化器和模型架构。