Kavram SözlüğüMatematik, İstatistik ve Optimizasyon

Çapraz Entropi Kaybı

Gerçek dağılım ile modelin tahmin ettiği olasılık dağılımı arasındaki uyumsuzluğu ölçen temel sınıflandırma kaybı.

Çapraz entropi kaybı, sınıflandırma problemlerinde en yaygın kullanılan kayıp fonksiyonlarından biridir. Temel mantığı, modelin doğru sınıfa ne kadar güven verdiğini ve yanlış sınıflara ne kadar olasılık dağıttığını ölçmektir. Eğer model doğru sınıfa düşük olasılık veriyorsa kayıp yükselir. Bu sayede sistem yalnızca doğru etiketi üretmeye değil, doğru etikete güçlü güven geliştirmeye de yönlendirilir. Özellikle lojistik regresyon, sinir ağları ve çok sınıflı sınıflandırma problemlerinde vazgeçilmezdir.