Zaman Boyunca Geri Yayılım

Sıralı modellerde aynı ağın zaman adımlarına açılarak gradyanlarının geriye doğru hesaplanması yöntemi.

Zaman Boyunca Geri Yayılım, özellikle RNN tabanlı modellerin eğitiminde kullanılan genişletilmiş geri yayılım yaklaşımıdır. Ağ, zaman ekseninde açılır ve her adımın kayba katkısı geçmişe doğru izlenir. Bu süreç uzun bağımlılıkları öğrenmeyi teorik olarak mümkün kılsa da gradyan sönmesi ve patlaması gibi önemli zorluklar doğurur. LSTM ve GRU gibi yapılar da büyük ölçüde bu problemi hafifletmek için geliştirilmiştir.