Calcolatore del tasso di apprendimento
Calcola il tasso di apprendimento finale dopo aver applicato le pianificazioni di decadimento a passi, esponenziale o coseno.
Come utilizzare il calcolatore del tasso di apprendimento
- Inserisci il tuo tasso di apprendimento iniziale.
- Inserisci il numero di epoche di allenamento.
- Seleziona il tipo di decadimento.
- Fai clic su Calcola per visualizzare il tasso di apprendimento finale e il programma.
Casi d'Uso
- •Pianificazione di programmi di iperparametri per la formazione sul deep learning.
- •Confronto tra strategie di decadimento per la velocità di convergenza.
- •Documentazione delle configurazioni di training negli esperimenti ML.
- •Insegnamento dei concetti di ottimizzazione delle reti neurali.
Formula
Passaggio: lr = lr0 × 0.1^piano(epoca/30).
Domande Frequenti
Che cos'è un programma di tasso di apprendimento?
Una pianificazione del tasso di apprendimento riduce il tasso di apprendimento nel tempo per aiutare il modello a convergere verso un minimo migliore.
Quale tipo di decadimento dovrei usare?
La ricottura del coseno è popolare per il deep learning;
Qual è il tipico tasso di apprendimento iniziale?
I valori comuni vanno da 0,0001 a 0,01 a seconda dell'ottimizzatore e dell'architettura del modello.