RAG mı Fine-tuning mi? 2026 Karar Çerçevesi: LoRA, QLoRA ve Damıtma

TL;DR — 2026'da "RAG mı fine-tuning mi" sorusu yanlış kurulmuş bir ikilem; doğru cevap çoğu zaman "ikisi birden, doğru sırada." Sahada işleyen sıra: Prompt → RAG → Fine-tune → Damıtma (Distill). Fine-tuning bilgi eklemek için değil, biçim, ton ve davranış için; RAG ise güncel bilgi ve kaynak göstermek için. LoRA ve QLoRA sayesinde artık binlerce örnek gerekmiyor; sınıflandırma ve çıkarım için 200-500 iyi örnek çoğu zaman yeterli. Bu yazıda bu karar çerçevesini, her yöntemin ne için doğru olduğunu ve Türkiye bağlamındaki pratik sonuçlarını sahadan örneklerle anlatıyorum.

Sahada en çok tekrar eden tartışmalardan biri şu: "Bizim probleme RAG mı uygun, fine-tuning mi?" Bu soru, sanki iki yöntem birbirinin alternatifiymiş gibi kurulduğu için baştan yanlış. Oysa RAG ve fine-tuning, farklı problemleri çözen tamamlayıcı araçlar. Birini diğerine tercih etmek, "çekiç mi kullanayım tornavida mı" diye sormaya benziyor; cevap, çakacağınız şeyin çivi mi vida mı olduğuna bağlı.

Doğru çerçeve, ikisini bir hiyerarşi içinde görmek. 2026'da olgunlaşan sıra şu: önce prompt mühendisliği, sonra RAG, sonra gerekirse fine-tuning, en sonunda maliyet için damıtma. Her adım, bir öncekinin yetmediği yerde devreye giriyor. Çoğu problem ilk iki adımda çözülüyor; fine-tuning'e ancak gerçekten gerektiğinde iniyorsunuz.

"

Bir müşterime şunu söylemiştim: "Fine-tuning'e prompt ve RAG başarısız olmadan geçmeyin. Çoğu ekip, aslında bir prompt probleminde olan işi fine-tuning'le çözmeye çalışıp hem para hem zaman kaybediyor."

İki yöntemin doğru kullanım alanını netleştirmek, kararın yarısı. Kısa bir kuralla özetleyeyim: Fine-tuning biçim içindir, olgular için değil.

RAG ne için: Güncel, sık değişen, kaynak gösterilmesi gereken bilgi. Bilgi tabanınız her hafta değişiyorsa, RAG doğru araç — veritabanını güncellersiniz, modeli değil. RAG ayrıca halüsinasyonu azaltır çünkü cevabı gerçek belgelere dayandırır ve kaynak gösterebilir. Bir şirket içi bilgi asistanı, bir müşteri destek sistemi, bir hukuki araştırma aracı — hepsi RAG'ın doğal alanı.

Fine-tuning ne için: Biçim, ton, yapı ve davranış. Modelin belirli bir çıktı formatını tutarlı üretmesini, belirli bir tonda konuşmasını ya da belirli bir reddetme desenini öğrenmesini istiyorsanız, fine-tuning doğru araç. Ayrıca fine-tuning'in en yüksek getirili kullanımı, güçlü bir frontier modelin performansını daha küçük, daha ucuz bir modele damıtmak — maliyet ve gecikme için. Fine-tuning'i haftalık değişen olguları enjekte etmek için kullanmak yanlış; onun işi bilgi değil, davranış.

Boyut	RAG	Fine-tuning
Ne için	Güncel olgu, kaynak gösterme	Biçim, ton, davranış, damıtma
Bilgi değişim hızı	Sık değişen	Sabit
Güncelleme yolu	Veritabanını güncelle	Yeniden eğit
Halüsinasyon	Azaltır (kaynağa dayanır)	Doğrudan azaltmaz
Tipik maliyet	Düşük başlangıç	Eğitim maliyeti + veri hazırlığı

Fine-tuning eskiden korkutucu bir işti: devasa hesaplama, binlerce örnek, uzman ekip. LoRA (Low-Rank Adaptation) ve QLoRA bu tabloyu kökten değiştirdi. LoRA, modelin ana ağırlıklarını dondurup yalnızca küçük düşük-rütbeli adaptör katmanlarını eğitiyor; bu, maliyeti çarpıcı biçimde kesiyor. QLoRA ise ana modeli 4-bit'e kuantalayıp, büyük modelleri tek bir tüketici GPU'sunda ince ayarlamaya izin veriyor — küçük bir doğruluk ödünüyle.

Bu araçların en önemli sonucu, veri gereksinimini düşürmeleri. Eski "en az 1000 örnek" kuralı artık geçerli değil. Sınıflandırma ve çıkarım görevleri için 200-500 iyi seçilmiş örnek çoğu zaman yeterli; kalite, nicelikten önemli. Sahada gördüğüm en sık israf, ekiplerin parametre-verimli yöntemlerin gerektirmediği devasa veri kümeleri peşinde aylarca takılması. Az ama temiz veri, çok ama gürültülü veriden neredeyse her zaman daha iyi sonuç veriyor.

En yüksek getirili yaklaşım da buradan çıkıyor: güçlü bir temel modelin üstüne ince bir LoRA ya da QLoRA adaptörü, RAG ile birleştirilmiş hâlde. Yani fine-tuning'i RAG'ın yerine değil, yanında kullanmak. Model ince ayarla tonu ve biçimi öğrenir; RAG güncel olguları ve kaynakları enjekte eder. Sonuç, hem markaya uygun hem olgusal olarak dayanaklı cevaplar.

Sahada uyguladığım karar akışı çok basit ve çoğu ekibi doğru yola sokuyor.

Adım 1 — Prompt. Problemi önce iyi bir prompt ve birkaç örnekle (few-shot) çözmeyi deneyin. Şaşırtıcı sayıda "fine-tuning gerektiren" sanılan problem, aslında iyi bir sistem promptuyla çözülüyor.

Adım 2 — RAG. Prompt yetmiyorsa ve sorun bilgi eksikliğiyse, RAG ekleyin. Modelin bilmediği, güncel ya da şirkete özgü bilgiyi retrieval'la sağlayın.

Adım 3 — Fine-tuning. Prompt ve RAG tutarlı sonuç vermiyorsa — özellikle biçim, ton ya da yapı tutarsızsa — ince bir LoRA/QLoRA adaptörü devreye girsin. Ama önce gerçek bir değerlendirme setiyle sorunun ne olduğunu doğrulayın.

Adım 4 — Damıtma. Frontier model işi çözüyor ama pahalı ve yavaşsa, onun çıktılarıyla daha küçük bir modeli eğitip (damıtma) maliyeti ve gecikmeyi düşürün.

Bu sıra, hem parayı hem zamanı koruyor. Her adım, bir öncekinin gerçekten yetmediğini kanıtladığınızda başlıyor; körlemesine en pahalı çözüme atlamıyorsunuz.

Türkçe uygulamalarda fine-tuning'in özel bir değeri var: birçok temel model Türkçede İngilizceye göre zayıf kalabiliyor. İnce bir Türkçe fine-tuning, modelin Türkçe biçim ve ton tutarlılığını belirgin biçimde artırabilir. Ama burada dikkatli olun: fine-tuning verisi, gerçek kullanıcı verisinden türetiliyorsa KVKK kapsamına girer. Eğitim setinde kişisel veri kullanmak, işleme faaliyetidir; amaç, hukuki sebep ve saklama sorularını beraberinde getirir.

Pratik önerim, fine-tuning veri setini kişisel veriden arındırmak ya da anonimleştirmek; mümkünse sentetik ama gerçekçi örneklerle zenginleştirmek. Ayrıca fine-tuning'i dışarıda bir sağlayıcıda yapıyorsanız, eğitim verinizin nereye gittiğini ve nasıl saklandığını netleştirin. KVKK'nın üretken yapay zekâ rehberi tam da bu tür veri kullanımı genişlemesine dikkat çekiyor.

Sonuçta "RAG mı fine-tuning mi" sorusunun doğru cevabı neredeyse hiçbir zaman "biri" değil; doğru cevap, "hangisini, ne için, hangi sırada." Bilgi güncelse RAG, biçim ve ton kritikse fine-tuning, maliyet önemliyse damıtma. Ve çoğu zaman en güçlü çözüm, ince bir fine-tuning ile RAG'ın birlikte çalıştığı hibrit yapı. Bu hafta yapılacak ilk iş, probleminizin bir bilgi problemi mi yoksa bir biçim problemi mi olduğunu net tanımlamak; o tanım, hangi aracı kullanacağınızı kendiliğinden söyleyecek.

Fine-tuning'e ne zaman geçileceği kadar, ne zaman geçilmeyeceği de önemli. Sahada gördüğüm en pahalı hatalardan biri, aslında RAG problemi olan bir işi fine-tuning'le çözmeye çalışmak. Bilgi tabanınız haftalık değişiyorsa, o bilgiyi modele fine-tuning'le gömmek anlamsız; her değişiklikte yeniden eğitmek zorunda kalırsınız. Bu, veritabanını güncellemenin kolaylığı varken, modeli sürekli yeniden inşa etmek gibi.

Bir diğer "yapma" işareti, sağlam bir değerlendirme setinizin olmaması. Fine-tuning'in işe yarayıp yaramadığını ölçemiyorsanız, onu yapmamalısınız; çünkü kör bir eğitim, modeli iyileştirdiği kadar bozabilir de. Fine-tuning öncesinde bir taban çizgisi ölçmek, sonrasında aynı setle kıyaslamak şart. Ölçüm yoksa, fine-tuning bir yatırım değil, bir kumar.

Üçüncü işaret, in-distribution örnek sayısının çok az olması. LoRA/QLoRA eşiği düşürdü ama sıfırlamadı; sınıflandırma için 200-500 iyi örnek gerekir. Elinizde bu kadar temiz, temsili örnek yoksa, önce veri toplamaya odaklanın; erken fine-tuning, gürültülü veriyle modeli yanlış yöne çeker.

Fine-tuning'in görünmeyen maliyeti, eğitimin kendisi değil, bakımı. Bir modeli ince ayarladığınızda, o adaptörü artık siz sahipleniyorsunuz: temel model güncellendiğinde, kullanım senaryosu değiştiğinde ya da yeni veri geldiğinde yeniden eğitmek gerekebilir. RAG'ın güzelliği, bu bakım yükünün çoğunu veritabanı tarafına kaydırması — belgeyi güncellersiniz, model dokunulmadan kalır.

Bu yüzden karar verirken toplam sahip olma maliyetini düşünün: fine-tuning bir kerelik bir iş değil, süregelen bir sorumluluk. Eğer ekibinizin bu adaptörü yaşatacak kapasitesi yoksa, RAG + iyi prompt kombinasyonu çoğu zaman daha sürdürülebilir. En akıllı ekipler, fine-tuning'i yalnızca gerçekten fark yarattığı ve bakımını üstlenebildikleri dar alanlarda kullanıyor; gerisini RAG ve prompt ile çözüyorlar.

Nihayetinde bu bir "ya o ya bu" seçimi değil, bir orkestrasyon. Prompt ile başlayın, RAG ile bilgiyi güncel tutun, gerektiğinde ince bir fine-tuning ile biçimi ve tonu kilitleyin, maliyet için damıtın. Probleminizi doğru teşhis ettiğinizde — bilgi mi, biçim mi — hangi aracın devreye gireceği kendiliğinden netleşir. O teşhisi bu hafta yapın; çözümün yolu, doğru soruyla başlıyor.