Kreuzentropie-Rechner
Berechnen Sie den Kreuzentropie-Verlust und die KL-Divergenz zwischen wahren und vorhergesagten Wahrscheinlichkeitsverteilungen. Weit verbreitet als Verlustfunktion bei Klassifikationsaufgaben.
So verwenden Sie den Kreuzentropie-Rechner
- Geben Sie die wahre Wahrscheinlichkeit ein (0 bis 1).
- Geben Sie die vorhergesagte Wahrscheinlichkeit ein (0 bis 1).
- Klicken Sie auf Berechnen, um Kreuzentropie und KL-Divergenz zu erhalten.
Anwendungsfälle
- •Überwachung des Trainingsverlusts beim Training neuronaler Netze.
- •Vergleich von Modellausgaben mit den wahren Labels.
- •Verständnis der Informationstheorie im ML.
- •Diagnose von Overfitting- oder Underfitting-Problemen.
Formel
H(p,q) = −[p×log(q) + (1−p)×log(1−q)]. KL(p||q) = p×log(p/q) + (1−p)×log((1−p)/(1−q)).
Häufig gestellte Fragen
Was ist Kreuzentropie-Verlust?
Kreuzentropie misst, wie gut eine vorhergesagte Wahrscheinlichkeitsverteilung mit der wahren Verteilung übereinstimmt. Niedrigere Werte sind besser.
Was ist KL-Divergenz?
KL-Divergenz misst den Unterschied zwischen zwei Wahrscheinlichkeitsverteilungen. Sie ist stets ≥ 0.
Was ist ein guter Kreuzentropie-Wert?
Werte nahe 0 zeigen an, dass die Vorhersagen des Modells eng mit den wahren Labels übereinstimmen.