حاسبة الإنتروبيا التقاطعية
احسب خسارة الإنتروبيا التقاطعية وتباعد KL بين توزيعات الاحتمال الحقيقية والمتوقعة. تُستخدم على نطاق واسع كدالة خسارة في مهام التصنيف.
كيفية استخدام حاسبة الإنتروبيا التقاطعية
- أدخل الاحتمال الحقيقي (من 0 إلى 1).
- أدخل الاحتمال المتوقع (من 0 إلى 1).
- انقر على احسب للحصول على الإنتروبيا التقاطعية وتباعد KL.
حالات الاستخدام
- •مراقبة خسارة التدريب أثناء تدريب الشبكات العصبية.
- •مقارنة مخرجات النموذج بالتسميات الحقيقية.
- •فهم نظرية المعلومات في التعلم الآلي.
- •تشخيص مشكلات الإفراط في التخصيص أو نقصانه.
الصيغة
H(p,q) = −[p×log(q) + (1−p)×log(1−q)]. KL(p||q) = p×log(p/q) + (1−p)×log((1−p)/(1−q)).
الأسئلة الشائعة
ما هي خسارة الإنتروبيا التقاطعية؟
تقيس الإنتروبيا التقاطعية مدى تطابق توزيع الاحتمال المتوقع مع التوزيع الحقيقي. كلما انخفضت القيمة كان الأداء أفضل.
ما هو تباعد KL؟
يقيس تباعد KL الفرق بين توزيعي احتمال. وهو دائما ≥ 0.
ما هي قيمة الإنتروبيا التقاطعية الجيدة؟
تشير القيم القريبة من 0 إلى أن تنبؤات النموذج تتطابق مع التسميات الحقيقية بشكل وثيق.