İçeriğe geç
Kavram SözlüğüÜretken Yapay Zekâ ve LLM

QLoRA

Nicemlenmiş temel model üzerinde LoRA uyarlaması yaparak düşük donanım maliyetiyle fine-tuning sağlayan yaklaşım.

QLoRA, büyük dil modellerini daha sınırlı GPU belleğiyle uyarlamayı mümkün kılan önemli bir pratik yeniliktir. Temel model daha düşük bit düzeyinde tutulurken LoRA katmanları öğrenilir. Bu sayede eğitim maliyeti ciddi biçimde düşerken görev başarısı çoğu durumda korunabilir. Özellikle bireysel geliştiriciler ve kurumsal prototipleme için çok değerlidir.