Kavram SözlüğüDerin Öğrenme
Encoder-Decoder Transformer
Girdi sekansını kodlayıp çıktı sekansını bağlamsal olarak üreten klasik Transformer mimarisi.
Encoder-decoder Transformer, özellikle çeviri, özetleme ve sekans-dönüşüm görevleri için tasarlanmış klasik mimaridir. Encoder girdi temsillerini üretirken decoder bu temsillerden yararlanarak çıktı sekansını oluşturur. Cross-attention sayesinde çıktı üretimi doğrudan giriş bağlamıyla hizalanabilir. Bu yapı, modern üretici dil sistemlerinin önemli tarihsel temelini oluşturur.
İlginizi Çekebilir
Yapay zeka yolculuğunuza devam etmek için bu kavramlara da göz atabilirsiniz.
