Kavram SözlüğüÜretken Yapay Zekâ ve LLM
Prefix Tuning
Modelin iç dikkat yapısını küçük öğrenilebilir ön ek temsilleriyle yönlendiren PEFT tekniği.
Prefix tuning, model ağırlıklarının büyük bölümünü değiştirmeden görev davranışını yönlendirmek için içsel bağlam benzeri vektörler öğrenir. Bu yöntem, özellikle parametre verimliliği aranan senaryolarda ilginç alternatiflerden biridir. Prompting ile fine-tuning arasında köprü kuran yaklaşımlardan biri olarak görülebilir.
İlginizi Çekebilir
Yapay zeka yolculuğunuza devam etmek için bu kavramlara da göz atabilirsiniz.
