Kavram SözlüğüDerin Öğrenme
Batch Normalization
Ara katman aktivasyonlarını mini-batch düzeyinde normalize ederek eğitimi hızlandıran ve kısmen düzenlileştiren teknik.
Batch normalization, derin ağlarda dağılım kaymasını azaltmaya ve optimizasyonu daha kararlı hale getirmeye yardımcı olur. Aktivasyonların mini-batch bazında normalize edilmesi, daha yüksek öğrenme oranlarıyla eğitim yapmayı mümkün kılabilir. Ayrıca hafif bir düzenlileştirme etkisi de yaratabilir. CNN'lerden Transformer öncesi mimarilere kadar birçok yapıda önemli rol oynamıştır.
İlginizi Çekebilir
Yapay zeka yolculuğunuza devam etmek için bu kavramlara da göz atabilirsiniz.
