学習率計算機
ステップ、指数関数、またはコサイン減衰スケジュールを適用した後の最終学習率を計算します。
学習率計算ツールの使用方法
- 初期学習率を入力してください。
- トレーニング エポックの数を入力します。
- 減衰タイプを選択します。
- 「計算」をクリックして、最終的な学習率とスケジュールを確認します。
使用例
- •深層学習トレーニングのハイパーパラメーター スケジュールを計画しています。
- •収束速度に関する減衰戦略を比較します。
- •ML 実験におけるトレーニング構成を文書化します。
- •ニューラル ネットワークの最適化の概念を教えます。
計算式
ステップ: lr = lr0 × 0.1^フロア(エポック/30)。
よくある質問
学習率スケジュールとは何ですか?
学習率スケジュールは、時間の経過とともに学習率を低下させ、モデルがより適切な最小値に収束するのを助けます。
どの減衰タイプを使用すればよいですか?
コサイン アニーリングは深層学習で人気があります。
典型的な初期学習率はどれくらいですか?
一般的な値の範囲は、オプティマイザーとモデル アーキテクチャに応じて 0.0001 から 0.01 です。