Calculateur de taux d'apprentissage
Calculez le taux d'apprentissage final après avoir appliqué des programmes de décroissance par étapes, exponentielle ou cosinus.
Comment utiliser le calculateur de taux d'apprentissage
- Entrez votre taux d'apprentissage initial.
- Entrez le nombre d'époques de formation.
- Sélectionnez le type de désintégration.
- Cliquez sur Calculer pour voir le taux d'apprentissage final et le calendrier.
Cas d'utilisation
- •Planification de plannings d'hyperparamètres pour la formation en deep learning.
- •Comparaison des stratégies de désintégration pour la vitesse de convergence.
- •Documenter les configurations de formation dans les expériences ML.
- •Enseigner les concepts d'optimisation des réseaux neuronaux.
Formule
Étape : lr = lr0 × 0,1^floor (époque/30).
Questions fréquemment posées
Qu'est-ce qu'un barème de taux d'apprentissage ?
Un calendrier de taux d'apprentissage réduit le taux d'apprentissage au fil du temps pour aider le modèle à converger vers un meilleur minimum.
Quel type de désintégration dois-je utiliser ?
Le recuit cosinus est populaire pour l'apprentissage en profondeur ;
Quel est le taux d'apprentissage initial typique ?
Les valeurs communes vont de 0,0001 à 0,01 en fonction de l'optimiseur et de l'architecture du modèle.