Kavram SözlüğüMatematik, İstatistik ve Optimizasyon

Karşılıklı Bilgi

Bir değişkenin bilinmesinin diğer değişken hakkındaki belirsizliği ne kadar azalttığını ölçen kavram.

Karşılıklı bilgi, iki değişkenin ne kadar bilgi paylaştığını anlamak için kullanılır. Eğer bir değişkeni bilmek diğerini tahmin etmeyi kolaylaştırıyorsa, aralarında yüksek karşılıklı bilgi vardır. Bu ölçü yalnızca doğrusal ilişkilere duyarlı değildir; daha karmaşık bağımlılıkları da yakalayabilir. Bu yönüyle özellik seçimi, bilgi kazancı ve dağılımlar arası ilişki analizi açısından güçlüdür. Yapay zekâda bir özelliğin hedef hakkında gerçekten ne kadar bilgi taşıdığını değerlendirmek için çok değerli bir araçtır.