İçeriğe geç
Kavram SözlüğüDerin Öğrenme

Weight Decay

Ağırlık büyüklüklerini cezalandırarak model karmaşıklığını kontrol altında tutan düzenlileştirme yaklaşımı.

Weight decay, model parametrelerinin gereksiz büyümesini engelleyerek daha sade ve genellenebilir çözümler bulmaya yardımcı olur. Pratikte çoğu zaman L2 cezası ile ilişkilidir ve özellikle yüksek kapasiteli derin ağlarda aşırı uyumu azaltmak için kullanılır. Büyük ağırlıkların veriye aşırı duyarlı hale gelmesini sınırlayabilir. Optimizasyon algoritmasıyla birlikte ele alındığında etkisi daha doğru anlaşılır.