İçeriğe geç
Kavram SözlüğüDerin Öğrenme

Uzman Karışımlı Transformer

Her girdide tüm ağı değil seçili uzman alt ağları etkinleştirerek ölçek verimliliği sağlayan Transformer yaklaşımı.

Uzman karışımlı Transformer yapıları, model kapasitesini büyütürken her örnekte tüm parametreleri çalıştırma zorunluluğunu azaltmayı hedefler. Yönlendirici bir mekanizma, girdinin hangi uzman alt modüller tarafından işleneceğine karar verir. Bu sayede hesaplama verimliliği ile model ölçeği arasında yeni bir denge kurulabilir. Büyük ölçekli sistemlerde verimli uzmanlaşma fikrini somutlaştırır.