İçeriğe geç
Kavram SözlüğüDerin Öğrenme

Stochastic Weight Averaging

Eğitim sürecindeki farklı parametre noktalarını ortalayarak daha sağlam genelleme elde etmeyi amaçlayan yöntem.

Stochastic Weight Averaging, eğitimin sonlarına doğru farklı ağırlık konumlarını ortalayarak daha dengeli çözümler üretmeyi amaçlar. Bu yaklaşım, tek bir keskin çözüm yerine daha yaygın ve kararlı temsil bölgelerine yakınsama fikrine dayanır. Çoğu zaman ek büyük maliyet gerektirmeden genelleme iyileşmesi sağlayabilir. Özellikle optimizer seçimi ile birlikte ele alındığında güçlü sonuçlar verebilir.