Küçük Modeller mi Büyük Modeller mi? Eğilimin Yönü

Küçük dil modeli mi, büyük model mi? Son iki yılın en çok tartışılan yapay zeka sorularından biri bu. Bir yanda "daha büyük her zaman daha iyidir" diyen, en yüksek parametreli modele koşan bir ekol; diğer yanda küçük dil modeli ile aynı işi kat kat ucuza yapabileceğini savunan bir ekol. Bu rehberde ikili karşıtlığı bir kenara bırakıp gerçek soruyu soruyoruz: hangi görev için hangi model ölçeği? Çünkü bu bir "kazanan" seçme yarışı değil, bir görev bazlı seçim ve mimari tasarım meselesidir.

Bir dil modelinin büyüklüğü, kabaca parametre sayısıyla ölçülür; ama parametre sayısı tek başına ne kaliteyi ne de doğru seçimi belirler. Bir kurumsal karar vericinin gerçekte cevaplaması gereken soru "en güçlü model hangisi" değil, "benim şu görevimi, kabul edilebilir kalitede, kabul edilebilir maliyet ve gecikmeyle hangi model çözer" sorusudur. Bu rehber tam olarak bu soruyu ele alıyor: küçük dil modeli nedir, nerede güçlenir, büyük model nerede vazgeçilmezdir, maliyet performans dengesi nasıl kurulur, fine-tuning + RAG + distilasyon küçüğü nasıl güçlü kılar, model routing ve karma mimari eğilimi nereye gidiyor ve kurum bu kararı hangi çerçeveyle vermeli.

Tanım

Küçük Dil Modeli (SLM, Small Language Model)

Büyük dil modellerine kıyasla çok daha az parametreye sahip, bu sayede daha düşük maliyet ve gecikmeyle, çoğu zaman kendi donanımda veya uç cihazda çalıştırılabilen dil modeli. Dar ve iyi tanımlı görevlerde — özellikle fine-tuning ve RAG ile desteklendiğinde — büyük modele yakın kalite verebilir; geniş, açık uçlu ve çok adımlı akıl yürütme gerektiren görevlerde ise büyük modelin gerisinde kalabilir.

Ayrıca: SLM, small language model, küçük model, hafif model, kompakt dil modeli

Küçük dil modeli (SLM), büyük modellere kıyasla çok daha az parametreyle çalışan, bu sayede daha ucuz, daha hızlı ve çoğu zaman kendi altyapınızda çalıştırılabilen bir dil modelidir. "Küçük" ve "büyük" görecelidir; kesin bir parametre eşiği yoktur ve zaman içinde kayar. Bugün "küçük" sayılan bir model, birkaç yıl önceki "büyük" modellerden daha yeteneklidir. Bu yüzden büyüklüğü mutlak bir sayı olarak değil, "aynı dönemin en büyük modellerine göre nerede durduğu" olarak düşünmek daha doğrudur.

Bir benzetme yardımcı olur. Büyük model, her konuda okumuş, geniş kültürlü ama pahalı danışılan bir genel uzman gibidir; ona her soruyu sorabilirsiniz ama her seferinde yüksek ücret ve bekleme süresi ödersiniz. Küçük dil modeli ise belirli bir işte eğitilmiş, hızlı ve uygun maliyetli bir uzman gibidir; dar alanında son derece verimlidir, ama alanının dışına çıktığınızda zorlanır. İyi bir kurumsal mimari, her işi genel uzmana yaptırmak yerine, işi doğru uzmana yönlendirir. İşte bu rehberin özü budur.

Dil modellerinin nasıl çalıştığını ve parametre kavramını temellendirmek için LLM nedir ve modelin metni nasıl işlediğini görmek için token nedir rehberleri iyi bir başlangıçtır. Küçük dil modeli tartışmasını doğru zeminde yürütmek için, önce bu temel kavramların oturması gerekir; çünkü "küçük" ve "büyük" ayrımı, aslında bir kapasite–maliyet–kalite üçgeninin farklı köşelerinde durmaktan ibarettir.

Bir noktayı baştan netleştirmekte fayda var: bu rehber, küçük dil modelini büyük modele bir rakip olarak sunmuyor. Amaç, bir modeli diğerinin yerine geçirmek değil; her ikisinin gücünü doğru görevlerde kullanan bir bakış kazandırmak. Küçük model bir görevde parlarken, aynı sistemde başka bir görev büyük modele gidebilir; ikisi bir arada, tek bir modelin sunamayacağı bir denge yaratır. Bu yüzden rehber boyunca "küçük mü büyük mü" sorusunu, "hangi görev için hangi ölçek" sorusuna dönüştürüyoruz — çünkü kurumsal değerin çıktığı yer tam olarak burasıdır. Bu bakış, hem teknik ekibin model seçimini hem de yönetimin bütçe kararını aynı çerçevede buluşturur.

Küçük dil modeli tartışmasının kaynağında, yıllarca hâkim olan basit bir varsayım yatar: model ne kadar büyükse o kadar iyidir. Ölçek yasaları (scaling laws) bu varsayımı bir ölçüde destekledi; parametre, veri ve hesaplama arttıkça modellerin genel yeteneği öngörülebilir biçimde iyileşti. Bu, "en büyük modeli al, her işe koş" refleksini normalleştirdi. Ancak bu refleks, kritik bir ayrımı gözden kaçırır: bir modelin en yüksek yeteneği ile belirli bir görevdeki gerekli yeteneği aynı şey değildir.

Basit bir örnek her şeyi anlatır. Bir e-postayı "şikâyet mi, talep mi, teşekkür mü" diye sınıflandırmak için dünyanın en büyük modelini çağırmak, bir çiviyi çakmak için vinç kiralamaya benzer. İş yapılır, ama gereksiz yere pahalı, yavaş ve savurgan biçimde. Bu görev için iyi seçilmiş bir küçük dil modeli, saniyenin altında ve maliyetin küçük bir kesriyle aynı sonucu üretir. İşte tartışmanın kaynağı burada: kurumlar, en büyük modeli her işe koşarak farkında olmadan büyük bir maliyet performans dengesi bozukluğu yaratıyor.

İkinci bir etken, küçük modellerin şaşırtıcı hızla güçlenmesidir. Daha iyi eğitim verisi, daha akıllı eğitim yöntemleri, damıtma (distilasyon) ve alan uyarlaması sayesinde, bugün küçük modeller birkaç yıl önce yalnızca dev modellerin başarabildiği görevleri karşılıyor. Bu, "büyük olan kazanır" varsayımını sarstı ve yerine daha olgun bir soruyu koydu: bu görev için gereken en küçük yeterli model hangisi? Bu rehber boyunca bu soruyu bir karar çerçevesine dönüştüreceğiz. Her işe en pahalı modeli çağırmanın neden yanlış olduğunu maliyet, kalite ve model routing rehberi yazısında ayrıntısıyla ele alıyoruz.

Küçük dil modeli, belirli görev sınıflarında yalnızca "yeterli" değil, çoğu zaman büyük modelden daha uygun bir seçimdir. Bunun nedeni, bu görevlerin dar, tekrarlı ve iyi tanımlı olması; yani modelin geniş dünya bilgisine değil, belirli bir deseni tutarlı biçimde uygulamaya ihtiyaç duymasıdır. Bu alanlarda küçüğün avantajları — düşük gecikme, düşük maliyet, kendi donanımında çalışabilme ve kolay ölçeklenme — kalite farkını fazlasıyla telafi eder.

Küçük dil modelinin parladığı tipik görevler şunlardır:

• Sınıflandırma ve etiketleme: Metni kategorilere ayırmak (şikâyet/talep, olumlu/olumsuz duygu, konu etiketi). Dar bir çıktı uzayı olduğu için küçük model çok verimlidir.
• Bilgi çıkarımı (extraction): Bir belgeden isim, tarih, tutar, madde numarası gibi yapılandırılmış alanları çekmek. Desen belirgindir; fine-tuning ile küçük model neredeyse kusursuz çalışır.
• Kısa özetleme ve yeniden yazma: Sabit formatlı, kısa metinleri özetlemek veya tonunu değiştirmek. Yaratıcılık değil tutarlılık gerektiğinden küçük model uygundur.
• Biçim dönüştürme: Serbest metni JSON'a, tabloyu cümleye, bir formatı diğerine çevirmek. Kurallı ve dar bir görevdir.
• Basit soru-cevap ve yönlendirme: SSS düzeyinde sorulara yanıt, niyet tespiti, bir isteği doğru birime yönlendirme.
• Uç ve çevrimdışı senaryolar: İnternet bağlantısının veya bulut erişiminin olmadığı, düşük gecikme veya veri gizliliği gerektiren yerlerde küçük model tek uygulanabilir seçenektir.

Bu görevlerin ortak paydası, çıktının öngörülebilir ve dar olmasıdır. Böyle görevlerde büyük modelin "fazladan zekâsı" boşa gider; siz onu kullanmadan da doğru cevap üretilir. Türkçe içerikte küçük modelin başarısı büyük ölçüde doğru embedding ve alan uyarlamasına bağlıdır; Türkçeyi iyi temsil eden bir modelin seçilmesi kritik olduğundan, Türkçe embedding modeli seçimi ve alan verisiyle özelleştirmenin yolu olan fine-tuning nedir yazıları burada devreye girer. Küçük modelleri fine-tuning ve dağıtım açısından derinlemesine ele alan küçük dil modelleri ve SLM fine-tuning rehberi de bu alandaki pratik detayları tamamlar.

Küçük dil modelinin gücünü abartmamak gerekir; bazı görevlerde büyük model hâlâ vazgeçilmezdir ve bu görevlerde küçüğe inmek, görünmez ama pahalı bir kalite kaybına yol açar. Büyük modelin üstünlüğü, geniş dünya bilgisi, güçlü genelleme ve çok adımlı akıl yürütme kapasitesinden gelir. Bu yetenekler, görev açık uçlu ve karmaşık hale geldikçe belirleyici olur.

Büyük modelin gerçekten fark yarattığı görev sınıfları şunlardır. Birincisi, çok adımlı ve karmaşık akıl yürütme: bir problemi alt problemlere bölüp zincirleme çözmek, çelişkili bilgileri tartıp sonuca varmak. Bu tür muhakemenin nasıl çalıştığını zincirleme düşünme nedir yazısında ele alıyoruz. İkincisi, geniş ve dağınık bağlamı bütünleştirme: uzun bir belgeyi veya çok sayıda kaynağı birbirine bağlayıp tutarlı bir sonuç çıkarma. Üçüncüsü, yaratıcı ve açık uçlu üretim: sıfırdan strateji, özgün metin, karmaşık kod tasarımı. Dördüncüsü, nadir ve uzun kuyruk bilgisi: sık karşılaşılmayan, derin veya niş konular; küçük model bu bilgiyi taşımayabilir.

Kritik ölçüt, hatanın maliyetidir. Yanlış bir cevabın bedeli düşükse (bir metni yanlış etiketlemek gibi), küçük modelin ara sıra hatası tolere edilebilir. Ama yanlış cevabın bedeli yüksekse — hukuki bir yorum, finansal bir karar, sağlıkla ilgili bir bilgi, uyum gerektiren bir çıktı — büyük modelin marjinal kalite üstünlüğü ve daha düşük hata oranı, ödediğiniz ek maliyeti fazlasıyla karşılar. Bu tür yüksek riskli görevlerde model seçimi bir tasarruf kalemi değil, bir risk yönetimi kararıdır. Kurumsal model seçiminin bütününü kurumsal LLM model seçimi rehberinde derinleştiriyoruz.

Bir noktayı vurgulamak gerekir: büyük model karşılaştırma yaparken tek bir genel benchmark puanına bakmak yanıltıcıdır. Bir model genel bir sınavda yüksek puan alabilir ama sizin özel görevinizde beklediğiniz performansı vermeyebilir. Bu yüzden büyük model karşılaştırma kararı, kamuya açık skorlarla değil, sizin gerçek görev setiniz üzerinde yapılan bir değerlendirmeyle verilmelidir. Değerlendirmenin yöntemlerini LLM değerlendirme nedir yazısında ele alıyoruz.

Bu rehberin kalbi burasıdır: küçük mü büyük mü sorusunun cevabı, görev bazlı seçim yapmaktır. Yani her görevi ayrı ayrı ele alıp, o görevin gerektirdiği en küçük yeterli model ölçeğini seçmek. Bu yaklaşım, hem kaliteyi güvence altına alır (çünkü zor görevlere büyük model gider) hem de maliyet performans dengesini optimize eder (çünkü kolay görevlere gereksiz güç harcanmaz). Aşağıdaki tablo, görev bazlı seçim için pratik bir çerçeve sunar.

Görev tipi × uygun model ölçeği × gerekçe: görev bazlı seçim çerçevesi

Görev tipi	Uygun model ölçeği	Gerekçe
Sınıflandırma / etiketleme	Küçük (gerekiyorsa fine-tuning)	Dar çıktı uzayı; desen tekrarlı, dünya bilgisi gerekmez
Yapılandırılmış bilgi çıkarımı	Küçük + fine-tuning	Belirgin desen; küçük model neredeyse kusursuz
Kısa özet / yeniden yazma	Küçük–orta	Tutarlılık yeterli; yüksek yaratıcılık gerekmez
Kuruma özel soru-cevap	Küçük–orta + RAG	Bilgi RAG'den gelir; model akıl yürütmeyi taşır
Çok adımlı akıl yürütme	Büyük	Zincirleme muhakeme ve genelleme kapasitesi şart
Karmaşık kod üretimi / hata ayıklama	Büyük	Geniş bilgi ve derin muhakeme farkı belirleyici
Yüksek riskli muhakeme (hukuk/finans/sağlık)	Büyük	Hatanın maliyeti yüksek; güvenlik payı gerekir
Uç / çevrimdışı / gizli veri	Küçük (on-premise)	Gecikme ve gizlilik; bulut dışı çalışma zorunlu

Bu tabloyu bir reçete gibi değil, bir başlangıç çerçevesi gibi kullanın. Kendi görevlerinizi bu satırlara oturttuğunuzda, iş yükünüzün büyük kısmının aslında küçük–orta ölçekle çözülebildiğini, yalnızca dar bir kesitin gerçekten büyük model gerektirdiğini fark edeceksiniz. Bu farkındalık tek başına önemli bir maliyet performans dengesi kazancıdır: pahalı gücü, yalnızca onu hak eden görevlere ayırırsınız.

Görev bazlı seçim yapmanın pratik yolu, her görev için üç soruyu netleştirmektir: (1) çıktı ne kadar dar ve öngörülebilir? (2) hatanın maliyeti nedir? (3) gecikme ve gizlilik kısıtı var mı? Bu üç soru, sizi neredeyse her zaman doğru ölçeğe götürür. Görev tanımı belirsizse, model seçimi de belirsiz olur; bu yüzden görev bazlı seçim, aslında iyi bir görev tanımıyla başlar. Kullanım senaryosunu netleştirmeye kullanım senaryosu nedir yazısıyla başlayabilirsiniz.

Küçük dil modeli tartışmasının en somut boyutu maliyet ve gecikmedir; çünkü kalite farkı çoğu zaman görecelidir ama maliyet farkı sayısaldır ve ölçekte katlanır. Büyük bir model, küçük bir modele göre çok daha fazla hesaplama gerektirir; bu da hem her sorgu başına daha yüksek ücret hem de daha uzun yanıt süresi demektir. Az sayıda sorguda bu fark önemsiz görünebilir, ama günde milyonlarca çağrı yapan bir kurumsal sistemde aynı fark, bütçeyi belirleyen ana kalem haline gelir.

Maliyet performans dengesini doğru kurmak için önce maliyetin nereden geldiğini görmek gerekir. Bir dil modeli çağrısının maliyeti, kabaca işlenen token sayısı ile modelin birim token ücretinin çarpımıdır; büyük model hem birim ücrette hem de çoğu zaman daha uzun çıktı üreterek toplam maliyeti yükseltir. Gecikme tarafında ise büyük model, her token'ı üretmek için daha fazla hesaplama yaptığından yanıtı daha yavaş tamamlar. Bu iki boyutu birlikte optimize etmenin yollarını LLM maliyet optimizasyonu ve gecikmeye özel olarak LLM gecikme ve latency yönetimi rehberlerinde ele alıyoruz.

Küçük ve büyük model: maliyet, gecikme ve kalite boyutları (illustratif, göreli karşılaştırma)

Boyut	Küçük dil modeli	Büyük model
Sorgu başına maliyet	Düşük	Yüksek
Yanıt gecikmesi	Düşük (hızlı)	Yüksek (yavaş)
Dar görevde kalite	Yüksek (fine-tuning ile)	Yüksek ama gereksiz
Açık uçlu görevde kalite	Orta-düşük	Yüksek
Kendi donanımında çalıştırma	Kolay (on-premise/uç)	Zor / pahalı altyapı
Ölçekte toplam maliyet	Çok daha düşük	Hızla büyür

Bu tablodaki en önemli satır sonuncusudur: ölçekte toplam maliyet. Bir görevi küçük modelle çözebiliyorken büyük modelle çözmek, tek çağrıda birkaç kuruş fark yaratır gibi görünse de, milyonlarca çağrıda bu fark ciddi bir bütçeye dönüşür. Bu yüzden olgun kurumlar, maliyet performans dengesini "sorgu başına" değil "toplam sistem" düzeyinde düşünür. Bulut yerine kendi donanımınızda çalıştırma kararının maliyet ve gizlilik etkilerini on-premise LLM donanım boyutlandırma yazısında, modeli üretimde nasıl servis edeceğinizi ise model servis etme seçenekleri rehberinde ele alıyoruz.

Bir uyarı gereklidir: maliyeti düşürmek uğruna kaliteyi eşiğin altına indirmek yanlış ekonomidir. Amaç en ucuz modeli seçmek değil, kabul edilebilir kaliteyi en düşük maliyetle üretmektir. Bu yüzden maliyet performans dengesi, önce bir kalite eşiği tanımlayıp sonra o eşiği tutan en ucuz modeli aramak demektir; eşiksiz maliyet optimizasyonu, ucuz ama işe yaramaz bir sisteme yol açar.

Küçük dil modelinin iki temel zayıflığı vardır: alanınıza özgü dili ve deseni tam bilmemesi, ve eğitimde görmediği güncel/kuruma özel bilgiye sahip olmaması. İyi haber şu ki bu iki zayıflık, iki iyi bilinen teknikle kapatılır — fine-tuning ve RAG. Bu ikisi küçük modele eklendiğinde, ortaya çıkan sistem çoğu kurumsal görevde büyük modele gerçek bir alternatif haline gelir. Buna distilasyonu da eklediğinizde, küçüğü güçlü kılan üçlü tamamlanır.

Fine-tuning (ince ayar), küçük modeli sizin alan verinizle yeniden eğiterek ona alanınızın dilini, formatını ve görev desenini öğretir. Böylece küçük model, dar görevde büyük modele belirgin biçimde yaklaşır; çünkü artık "genel" değil, "sizin göreviniz için özel" hale gelmiştir. Fine-tuning'i verimli ve ucuz yapan LoRA/QLoRA gibi yöntemleri LoRA nedir ve QLoRA yazılarında ele alıyoruz. Fine-tuning ile RAG arasında ne zaman hangisini seçeceğinizi ise RAG mi fine-tuning mi karar çerçevesi rehberi netleştirir.

RAG (bilgi getirimiyle üretim), küçük modelin bilgi eksikliğini kapatır: yanıt üretmeden önce dış bir bilgi tabanından soruyla ilgili belgeleri getirip modelin bağlamına ekler. Böylece küçük model, kendi belleğinde olmayan güncel ve kuruma özel bilgiyi kullanabilir; "bilmiyor" sorunu ortadan kalkar. RAG'in nasıl çalıştığını RAG nedir yazısında, kalitesini nasıl ölçeceğinizi ise RAG değerlendirme yöntemi rehberinde ele alıyoruz. Kritik nokta şudur: RAG, bilgiyi modelden ayırdığı için, küçük bir modelle bile geniş bir bilgi tabanına dayalı doğru yanıtlar üretebilirsiniz — çünkü modelin işi bilgiyi taşımak değil, getirilen bilgiyi akıl yürüterek yanıta dönüştürmektir.

Küçüğü güçlü kılan üçüncü teknik distilasyondur (bilgi damıtma, knowledge distillation). Distilasyon, büyük ve güçlü bir "öğretmen" modelin davranışını taklit edecek şekilde daha küçük bir "öğrenci" model eğitme yöntemidir. Fikir şudur: büyük model yalnızca doğru cevabı değil, cevaba nasıl ulaştığına dair zengin bir sinyal taşır; bu sinyali küçük modele aktardığınızda, küçük model tek başına eğitildiğinde ulaşamayacağı bir kaliteye erişir. Sonuçta elinizde, büyük modelin yeteneğinin önemli bir kısmını çok daha küçük bir boyutta taşıyan yeni bir model olur.

Distilasyon, "büyük modelin gücü" ile "küçük modelin verimliliği" arasındaki gerilimi zarif biçimde çözer. Büyük modeli üretim ortamında her çağrıda çalıştırmak pahalıdır; ama büyük modeli bir kez "öğretmen" olarak kullanıp ondan küçük bir model damıtırsanız, üretimde yalnızca ucuz küçük modeli çalıştırırsınız. Bu, özellikle yüksek hacimli, tekrarlı görevlerde büyük bir maliyet performans dengesi kazancıdır: büyük modelin kalitesine yakın bir çıktıyı, küçük modelin maliyetiyle üretirsiniz.

Distilasyonun sınırlarını da bilmek gerekir. Öğrenci model, öğretmenin her yeteneğini birebir devralamaz; özellikle geniş, açık uçlu akıl yürütmede bir miktar kayıp olur. Distilasyon, dar ve iyi tanımlı görevlerde en iyi sonucu verir; öğretmenin çıktısını taklit edeceği görev ne kadar netse, damıtma o kadar başarılı olur. Distilasyonu LoRA/QLoRA ve tercih optimizasyonu gibi diğer uyarlama teknikleriyle birlikte, bir karar çerçevesi içinde uyarlama sırası: LoRA, QLoRA, distilasyon ve fine-tuning, RAG ve distilasyon karar çerçevesi rehberlerinde derinlemesine ele alıyoruz.

Distilasyon yeni bir küçük model üretirken, kuantizasyon var olan bir modeli olduğu gibi tutup daha ucuz çalıştırmayı hedefler. Kuantizasyon, modelin sayısal ağırlıklarını daha düşük hassasiyetle temsil eder — örneğin her ağırlığı 16 bit yerine 8 veya 4 bitle saklamak. Sonuçta model küçülür, belleğe daha kolay sığar ve daha hızlı çalışır; kalite kaybı ise çoğu görevde şaşırtıcı derecede küçüktür. Bu, büyük bir modeli bile daha uygun donanımda çalıştırılabilir hale getirebilir.

Kuantizasyon ile distilasyonu karıştırmamak önemlidir. Distilasyon "yeni, daha küçük bir model eğitir"; kuantizasyon "aynı modeli daha az yer kaplayacak şekilde sıkıştırır". İkisi rakip değil, tamamlayıcıdır: önce distilasyonla daha küçük bir model üretebilir, sonra o modeli kuantizasyonla daha da hafifletebilirsiniz. Bu birleşim, özellikle kendi donanımınızda veya uç cihazda model çalıştırmak istediğinizde güçlü bir maliyet performans dengesi sağlar. Kuantizasyonun türlerini, kalite–boyut ödünleşimini ve ne zaman hangi hassasiyeti seçeceğinizi ayrı bir rehber olan kuantizasyon nedir yazısında ele alıyoruz.

Sıkıştırma teknikleri, küçük dil modeli eğiliminin neden bu kadar güçlendiğini de açıklar. Bir model yalnızca "az parametreli doğduğu için" küçük olmaz; kuantizasyon ve budama (pruning) gibi tekniklerle büyük bir model de çalışma zamanında küçültülebilir. Yani "küçük model" pratikte iki yoldan gelir: baştan küçük tasarlanmış modeller ve sıkıştırılarak küçültülmüş büyük modeller. Kurumsal karar açısından ikisi de aynı hedefe hizmet eder — kabul edilebilir kaliteyi daha düşük maliyet ve gecikmeyle üretmek.

Şimdiye kadar anlattığımız her şey tek bir sonuca işaret ediyor: geleceğin standardı "küçük mü büyük mü" seçimi değil, ikisini akıllıca birlikte kullanan karma (hibrit) mimaridir. Bu mimarinin kalbinde model routing (model yönlendirme) vardır: gelen her isteği, o iş için doğru ölçekteki modele yönlendiren bir katman. Kolay ve dar işler küçük dil modeline, zor ve açık uçlu işler büyük modele gider; kullanıcı bu ayrımı fark etmez, ama kurum hem kaliteyi korur hem de maliyeti düşürür.

Model routing basit bir fikre dayanır ama güçlü bir etki yaratır. Bir kurumsal iş yükünün büyük kısmı aslında kolay görevlerden oluşur; yalnızca küçük bir kesit gerçekten büyük model gerektirir. Eğer tüm istekleri büyük modele gönderirseniz, kolay işler için gereksiz yere pahalı güç harcarsınız. Routing, bu israfı ortadan kaldırır: her isteği önce sınıflandırır, sonra uygun modele yönlendirir. Gerektiğinde "önce küçük modelle dene, kalite eşiğini tutmazsa büyük modele yükselt (escalate)" mantığı da kurulabilir. Bu yönlendirme katmanının nasıl tasarlandığını AI gateway, LLM yönlendirme ve semantik cache yazısında ele alıyoruz.

Tek model yaklaşımı ile karma (hibrit) mimari + model routing karşılaştırması

Boyut	Her işe tek büyük model	Karma mimari + routing
Maliyet	Yüksek (her işe pahalı güç)	Düşük (iş ölçekle eşleşir)
Ortalama gecikme	Yüksek	Düşük (kolay iş hızlı biter)
Zor görevde kalite	Yüksek	Yüksek (büyük modele gider)
Kurulum karmaşıklığı	Düşük	Orta (routing katmanı gerekir)
Esneklik	Düşük (tek modele bağımlı)	Yüksek (model değiştirilebilir)

Karma mimarinin bir başka önemli avantajı esnekliktir: modelleri gevşek bağlı tuttuğunuzda, bir görevi bir modelden diğerine taşımak kolaylaşır. Ekosistem hızla değiştiği için bu esneklik değerlidir; bugün en iyi olan model yarın yerini bir başkasına bırakabilir. Karma mimari, sizi tek bir modele veya sağlayıcıya kilitlenmekten korur. Birden çok modelin ve ajanın birlikte çalıştığı daha ileri senaryoları çok ajanlı sistemler yazısında ele alıyoruz.

Eğilimin yönünü tek cümlede özetlemek gerekirse: sektör, "en büyük tek modeli herkese dayatma" fikrinden, "her görevi doğru ölçekle eşleştiren orkestrasyon" fikrine geçiyor. Küçük dil modeli bu resimde kaybeden değil, vazgeçilmez bir bileşen; büyük model de kaybeden değil, en zor işlere ayrılan güçlü bir üst mercii. Kazanan, ikisini yöneten mimari.

Küçük model yeterli mi sorusuna tek bir "evet" veya "hayır" ile cevap vermek yanlıştır; doğru cevap bir karar sürecidir. Bu bölümde o süreci pratik bir çerçeveye dönüştürüyoruz. Temel ilke şudur: küçük modelle başla, kaliteyi ölç, eşiği tutmuyorsa kademeli olarak güçlendir. Bu "önce küçük" yaklaşımı, hem maliyeti düşük tutar hem de gerçekten büyük modele ihtiyaç olup olmadığını kanıtla gösterir.

Karar üç kademede ilerler. Birinci kademe, ham küçük dil modelini denemek: görev yeterince dar ve öngörülebilirse, hiçbir ek olmadan bile küçük model işi görebilir. İkinci kademe, küçük modeli desteklemek: eğer ham küçük model eşiği tutmuyorsa, önce RAG (bilgi eksikse) ve fine-tuning (alan uyumsuzsa) ekleyin. Bu iki destek, çoğu görevde küçük modeli eşiğin üstüne çıkarır. Üçüncü kademe, büyük modele yükseltmek: yalnızca desteklenmiş küçük model bile eşiği tutmuyorsa — ki bu genellikle karmaşık akıl yürütme gerektiren görevlerde olur — büyük modele geçin. Bu kademeli yaklaşım, "her ihtimale karşı en büyüğü kullan" savurganlığını önler.

Bu çerçevenin işe yaraması için bir kalite eşiğini önceden tanımlamak şarttır. Eşik olmadan "yeterli mi" sorusu ölçülemez ve keyfi hale gelir. Eşik, görevin gereksinimlerinden türetilir: bir sınıflandırma görevinde kabul edilebilir doğruluk oranı, bir soru-cevap görevinde kabul edilebilir dayanaklılık ve hata payı. Eşiği tanımladıktan sonra, her model adayını sizin görev setiniz üzerinde ölçer ve eşiği en düşük maliyetle tutan modeli seçersiniz. Bu, görev bazlı seçim ilkesinin somut uygulamasıdır.

Küçük modelin gücünü savunurken, büyük modelin gerçekten şart olduğu görevleri net biçimde işaretlemek dürüstlük gereğidir. Bu görevlerde küçüğe inmek tasarruf değil, gizli bir kalite ve risk kaybıdır. Büyük modelin "şart" olduğu durumları birkaç kırmızı çizgiyle tanımlayabiliriz.

Birinci kırmızı çizgi, hatanın maliyetinin yüksek olduğu görevlerdir. Hukuki bir yorum, finansal bir hesap, sağlıkla ilgili bir bilgi veya uyum gerektiren bir çıktı söz konusuysa, yanlış cevabın bedeli, büyük model ile küçük model arasındaki maliyet farkını kat kat aşar. Bu görevlerde büyük modelin daha düşük hata oranı ve daha güçlü muhakemesi bir güvenlik payıdır ve gerekçelidir. İkinci kırmızı çizgi, çok adımlı ve açık uçlu akıl yürütmedir: bir problemi alt problemlere bölüp zincirleme çözmek, çelişkileri tartmak, sıfırdan strateji üretmek. Bu tür görevlerde küçük model sıklıkla yolun ortasında kopar.

Üçüncü kırmızı çizgi, nadir ve derin bilgi gerektiren görevlerdir. Küçük model, sık karşılaşılmayan niş konuları taşımayabilir; bu bilgiyi RAG ile dışarıdan besleyebilseniz bile, konuyu doğru yorumlamak yine güçlü bir muhakeme gerektirir. Dördüncü kırmızı çizgi, yüksek yaratıcılık ve özgünlük gerektiren üretimdir: özgün metin, karmaşık tasarım, çok katmanlı kod. Bu görevlerde büyük modelin geniş bilgisi ve genelleme gücü belirleyici olur. Büyük model karşılaştırma yaparken, tam olarak bu görev tiplerinde modelleri kendi verinizle sınamak gerekir; çünkü asıl fark burada ortaya çıkar. Model seçiminin bütünsel çerçevesini kurumsal LLM model seçimi rehberinde bulabilirsiniz.

Eğilim ne yönde sorusuna sağlıklı bir cevap, üç katmanı birlikte görmeyi gerektirir; çünkü aynı anda üç şey oluyor ve bunları tek bir "kazanan" hikâyesine indirgemek yanıltıcıdır.

Birinci katman: en büyük modeller sınırı yukarı taşımaya devam ediyor. Frontier (sınır) modeller, en zor akıl yürütme, çok dilli nüans ve karmaşık üretim görevlerinde çıtayı yükseltiyor. Yani "büyük model gereksizleşiyor" demek yanlış olur; en zor işler için büyük model daha da güçleniyor. İkinci katman: küçük dil modelleri şaşırtıcı hızla güçleniyor. Daha iyi eğitim verisi, distilasyon ve alan uyarlaması sayesinde, bugün küçük modeller birkaç yıl önce yalnızca dev modellerin başarabildiği görevleri karşılıyor. Bu, giderek daha fazla görevin küçük modele "inebileceği" anlamına geliyor.

Üçüncü ve asıl belirleyici katman: mimari eğilim. Sektör, tek bir dev modele bağımlılıktan, görevi ölçekle eşleştiren karma mimari ve model routing yaklaşımına geçiyor. Yani gerçek eğilim "küçük mü büyük mü kazanacak" değil; ikisini akıllıca birlikte kullanan orkestrasyonun standart hale gelmesidir. Kurumsal tarafta bu, maliyet performans dengesini yöneten bir yönlendirme katmanı kurmak; her işi otomatik olarak en pahalı modele değil, en uygun modele göndermek demektir. AI ekosisteminin katmanlarını ve bu eğilimin nereye oturduğunu AI ekosistem katman haritası yazısında ele alıyoruz.

Bu üç katmanı birleştirdiğimizde ortaya çıkan resim nettir: gelecekte kurumlar tek bir modele değil, bir model portföyüne sahip olacak — farklı ölçeklerde, farklı görevlere ayarlı modeller ve onları yöneten bir routing katmanı. Küçük dil modeli bu portföyün en çok kullanılan, en verimli bileşeni olacak; büyük model ise en zor işlere ayrılan güçlü ama pahalı üst mercii. Eğilimin yönü, tek model değil, akıllı orkestrasyon.

Şimdi tüm bu ilkeleri, bir kurumun izleyebileceği somut bir karar sürecine dönüştürelim. Aşağıdaki adımlar, "küçük mü büyük mü" kararını duygusal veya moda odaklı bir seçim olmaktan çıkarıp, ölçülebilir ve savunulabilir bir mühendislik kararına dönüştürür.

Nasıl Yapılır

Küçük mü büyük mü: kurumsal model ölçeği karar çerçevesi

Bir görev için doğru model ölçeğini seçmenin adım adım, ölçülebilir yolu.

1. 1

   Görevi net tanımla

   Çıktının ne kadar dar/öngörülebilir olduğunu, hatanın maliyetini ve gecikme/gizlilik kısıtını yazılı hale getir.

2. 2

   Kalite eşiğini belirle

   Görevin 'yeterli' sayılması için gereken doğruluk/dayanaklılık eşiğini önceden tanımla; ölçülebilir bir sayı koy.

3. 3

   Değerlendirme seti hazırla

   Kendi görevinizden etiketli bir test kümesi oluştur; kamuya açık benchmark yerine bunu kullan.

4. 4

   Önce küçük modelle dene

   Ham küçük dil modelini değerlendirme setinde ölç; eşiği tutuyorsa karar verildi, en ucuz çözüm bu.

5. 5

   Gerekirse RAG ve fine-tuning ekle

   Eşik tutmuyorsa küçük modeli RAG (bilgi eksikse) ve fine-tuning (alan uyumsuzsa) ile güçlendir, tekrar ölç.

6. 6

   Yalnızca gerekiyorsa büyüğe yükselt

   Desteklenmiş küçük model bile eşiği tutmuyorsa büyük modele geç; bunu istisna olarak, kanıta dayalı yap.

7. 7

   Routing ile karma mimariyi kur

   Farklı görevleri farklı ölçeklere yönlendiren bir model routing katmanı tasarla; kolay işi küçüğe, zor işi büyüğe ver.

8. 8

   Sürekli izle ve yeniden değerlendir

   Maliyet, gecikme ve kaliteyi üretimde izle; model ekosistemi değiştikçe kararı periyodik olarak gözden geçir.

Bu çerçevenin en kritik ilkesi, kararı maliyetle değil görevle başlatmasıdır. Birçok kurum "en ucuz model hangisi" diye başlar ve kaliteyi sonradan sorun eder; doğru sıra tersidir — önce görevi ve kalite eşiğini tanımla, sonra o eşiği en düşük maliyetle tutan modeli bul. Bu sıralama, hem kalite hem maliyet açısından çok daha sağlıklı sonuç verir. Üretimde model davranışını izlemek için gereken disiplini LLM izleme ve loglama yazısında ele alıyoruz.

Bu karar sürecini kurum çapında bir yeteneğe dönüştürmek, tek seferlik bir seçimden fazlasını gerektirir; ekiplerin görev tanımı, değerlendirme ve mimari tasarım konusunda ortak bir dil geliştirmesi gerekir. Bu yeteneği kazandırmak için kurumsal yapay zeka eğitimi ve tüm kavramları derinleştirebileceğiniz öğrenme merkezi iyi bir temel sağlar.

Küçük dil modelinin bugünkü gücünü anlamak için, önce "neden büyük her zaman daha iyi sanıldığını" anlamak gerekir. Ölçek yasaları (scaling laws), parametre, veri ve hesaplama arttıkça modelin genel yeteneğinin öngörülebilir biçimde iyileştiğini gösterdi. Bu bulgu doğruydu ama eksik yorumlandı: "daha fazla ölçek daha fazla yetenek" ilkesi, "her görev için daha fazla ölçek gerekir" biçiminde yanlış genellendi. Oysa ölçek yasaları modelin tavan yeteneğinden bahseder; belirli bir görevdeki gerekli yetenekten değil. Ölçek yasalarının ayrıntısını scaling laws yazısında ele alıyoruz.

Küçük modelin yükselişinin arkasında birkaç somut gelişme var. Birincisi, eğitim verisinin kalitesi. Daha temiz, daha iyi seçilmiş ve göreve daha uygun veriyle eğitilen küçük bir model, gelişigüzel devasa veriyle eğitilen büyük bir modelin dar görevdeki performansını yakalayabiliyor. İkincisi, eğitim yöntemlerinin olgunlaşması; talimat ayarı (instruction tuning), tercih optimizasyonu ve distilasyon gibi teknikler, küçük modelin verimini belirgin biçimde artırıyor. Üçüncüsü, mimari yenilikler; örneğin uzman karışımı (mixture of experts) gibi yaklaşımlar, modelin yalnızca gerekli kısmını çalıştırarak "büyük ama verimli" bir orta yol sunuyor. Bu yaklaşımı mixture of experts yazısında ele alıyoruz.

Bu gelişmelerin toplam etkisi şu: "küçük" ile "büyük" arasındaki kalite uçurumu, özellikle dar görevlerde her geçen yıl daralıyor. Birkaç yıl önce yalnızca en büyük modellerin başarabildiği bir işi, bugün iyi ayarlanmış bir küçük dil modeli karşılayabiliyor. Bu, "büyük olan kazanır" varsayımını geçersiz kılmıyor; yalnızca onu doğru bağlama oturtuyor — büyük model en zor işlerde hâlâ önde, ama işlerin çoğu artık "en zor" kategorisinde değil. Kurumsal karar için bu, giderek daha fazla görevin küçük modele güvenle devredilebileceği anlamına geliyor.

Küçük dil modeli tartışmasının kurumsal açıdan en pratik boyutlarından biri, açık kaynak modellerin kendi altyapınızda çalıştırılabilmesidir. Büyük modelleri çoğu zaman yalnızca bir sağlayıcının bulut API'si üzerinden kullanabilirsiniz; oysa iyi seçilmiş bir küçük model, kendi sunucunuzda veya hatta bir dizüstü bilgisayarda çalışabilir. Bu, veri gizliliği, maliyet öngörülebilirliği ve bağımsızlık açısından kritik bir farktır. Açık kaynak modellerin kurumsal kullanımını açık kaynak LLM nedir ve kapalı modelle karşılaştırmasını açık mı kapalı model mi yazılarında ele alıyoruz.

On-premise (kendi altyapıda) çalıştırmanın en güçlü gerekçesi gizliliktir. Kişisel veri, ticari sır veya düzenlemeye tabi bilgi içeren belgeleri işleyen bir kurum, bu veriyi bir dış sağlayıcının bulutuna göndermek istemeyebilir; hatta KVKK veya sektörel düzenlemeler bunu sınırlayabilir. Küçük bir model, veriyi kurumun sınırları içinde tutarak bu sorunu kökten çözer: veri hiç dışarı çıkmaz. Bunun için gereken donanımı doğru boyutlandırmak önemlidir; abartılı bir yatırım da, yetersiz bir altyapı da maliyet performans dengesini bozar. Donanım seçimini on-premise LLM donanım boyutlandırma ve GPU tarafını GPU nedir yazılarında ele alıyoruz.

On-premise çalıştırmanın bir bedeli de vardır ve bunu dürüstçe belirtmek gerekir: modeli kendiniz çalıştırdığınızda, çıkarımın (inference) verimliliği, ölçeklenmesi ve güncellenmesi sizin sorumluluğunuza geçer. Bir bulut sağlayıcısının otomatik olarak hallettiği pek çok operasyonel iş — yük dengeleme, ölçekleme, izleme — sizin kurmanız gereken bir mühendislik yükü haline gelir. Bu yükü hafifleten çıkarım optimizasyonu tekniklerini LLM çıkarım maliyeti optimizasyonu ve modeli üretimde servis etme seçeneklerini model servis etme seçenekleri yazılarında ele alıyoruz. Karar, gizlilik ve kontrol kazancı ile operasyonel yük arasındaki dengeye bağlıdır.

Küçük dil modelinin, büyük modelin hiçbir zaman giremeyeceği bir alan vardır: uç (edge) cihazlar ve çevrimdışı senaryolar. Bir mobil cihazda, bir endüstriyel sensörde, bir araç içi sistemde veya internet bağlantısının güvenilmez olduğu bir sahada, devasa bir modeli çalıştırmak fiziksel olarak mümkün değildir. Bu ortamlarda tek uygulanabilir seçenek, cihazın kendi kaynaklarıyla çalışabilen küçük bir modeldir. Bu, küçük modelin yalnızca "ucuz alternatif" değil, bazı senaryolarda "tek seçenek" olduğunu gösterir.

Uç senaryolarının üç temel gerekçesi vardır. Birincisi gecikme: bir yanıtı buluta gidip gelmeden, cihaz üzerinde anında üretmek, gerçek zamanlı uygulamalarda belirleyicidir. İkincisi bağlantı: internetin olmadığı veya kesintili olduğu ortamlarda çevrimdışı çalışma zorunludur. Üçüncüsü gizlilik: verinin cihazdan hiç çıkmaması, en güçlü gizlilik garantisidir. Bu üç gerekçenin bir araya geldiği durumlarda — örneğin gizli veriyi işleyen, çevrimdışı ve gerçek zamanlı bir uygulama — küçük dil modeli tartışmasız kazanır.

Uç senaryolarda küçük modeli daha da küçültmek için kuantizasyon vazgeçilmez hale gelir; sınırlı bellek ve işlem gücüne sahip bir cihaza modeli sığdırmanın başlıca yolu budur. Yerel model çalıştırmayı kolaylaştıran araçları Ollama nedir yazısında, sıkıştırmanın ayrıntısını ise kuantizasyon nedir yazısında ele alıyoruz. Kurumsal karar açısından uç senaryolar, "her görevi buluttaki en büyük modele gönder" refleksinin neden her zaman geçerli olmadığının en net kanıtıdır: bazı görevler, tanımı gereği, küçük ve yerel bir model gerektirir.

Soyut ilkeleri somutlaştırmak için tipik bir senaryoya bakalım. Bir müşteri destek ekibi, gelen taleplerin tamamını yapay zekayla ön işlemek istiyor. İlk refleks, "en güçlü modeli alalım, her şeyi o yapsın" olurdu. Ama görev bazlı seçim merceğiyle bakınca, bu iş akışının aslında farklı ölçekler gerektiren birkaç ayrı görevden oluştuğunu görürüz. Bu ayrıştırma, hem kaliteyi hem de maliyet performans dengesini birlikte iyileştirir.

Akışı adımlara bölelim. İlk adım, gelen talebi sınıflandırmak: fatura sorunu mu, teknik arıza mı, iade talebi mi? Bu dar ve tekrarlı bir görev; fine-tuning yapılmış bir küçük dil modeli bunu saniyenin altında ve neredeyse kusursuz yapar. İkinci adım, talepten yapılandırılmış bilgi çıkarmak: müşteri numarası, ürün kodu, tarih. Yine dar bir çıkarım görevi; küçük model burada da yeterli. Üçüncü adım, sık sorulan sorulara RAG ile yanıt üretmek: bilgi kurumun belgelerinden geldiği için, küçük model + RAG kombinasyonu çoğu talebi tek başına kapatır. Dördüncü adım, yalnızca karmaşık, çok adımlı veya öfkeli bir müşterinin ince ele alınması gereken talepleri büyük modele — veya bir insana — yükseltmek.

Bu dağılımın sonucu çarpıcıdır: taleplerin belki yüzde sekseni küçük modelle çözülür, yalnızca küçük bir kesit büyük modele gider. Eğer tüm talepler büyük modele gönderilseydi, kurum bu yüzde seksen için gereksiz yere kat kat fazla öderdi ve kullanıcılar daha yavaş yanıt alırdı. Görev bazlı seçim ve model routing sayesinde, aynı kalite çok daha düşük maliyetle ve daha hızlı üretilir. Bu tür saha deneyimlerinden çıkardığımız pratik dersleri saha notları derlememizde topluyoruz. Mini vaka bir kez daha gösteriyor: doğru soru "hangi model" değil, "bu akıştaki her görev için hangi ölçek" sorusudur.

Küçük mü büyük mü kararında, birbirine karıştırılan birkaç kavram sağlıklı düşünmeyi zorlaştırır. Bu kavramları netleştirmek, hem doğru kararı hem de doğru iletişimi kolaylaştırır. En sık karışan ayrımları tek tek ele alalım.

Birinci karışıklık, "model boyutu" ile "bağlam penceresi" arasındadır. Model boyutu (parametre sayısı) modelin kapasitesini; bağlam penceresi ise bir seferde ne kadar metin işleyebileceğini belirler. Küçük bir modelin geniş bir bağlam penceresi olabilir; büyük bir modelin dar. İkisi farklı eksenlerdir ve karıştırılmamalıdır. Bağlam penceresini context window nedir yazısında ele alıyoruz. İkinci karışıklık, "küçük model" ile "zayıf model" arasındadır. Küçük, mutlaka zayıf demek değildir; dar görevde iyi ayarlanmış küçük bir model, o görevde büyük modelden daha iyi olabilir. "Küçük" bir ölçek tanımıdır, bir kalite yargısı değil.

Üçüncü karışıklık, "distilasyon" ile "kuantizasyon" arasındadır; bunu rehber boyunca vurguladık ama tekrar etmeye değer: distilasyon yeni bir küçük model eğitir, kuantizasyon var olan modeli sıkıştırır. Dördüncü karışıklık, "fine-tuning" ile "RAG" arasındadır: fine-tuning davranış ve desen kazandırır, RAG bilgi ekler. Küçük modeli güçlendirirken hangisinin ne zaman gerektiğini RAG mi fine-tuning mi yazısı netleştirir. Bu dört ayrımı doğru kurmak, "küçük mü büyük mü" tartışmasını çok daha berrak bir zemine taşır; çünkü kavramlar netleştiğinde, karar da netleşir.

Küçük mü büyük mü kararında kurumların düştüğü tekrar eden hatalar vardır; bunları önceden bilmek, çoğunu baştan önler. En yaygın hatalar şunlardır:

• Her işe en büyük modeli koşmak: En sık ve en pahalı hata. Kolay görevler için gereksiz güç ve maliyet harcanır; ölçekte bu, büyük bir bütçe israfına dönüşür.
• Küçük modeli çıplak haliyle yargılamak: Küçük dil modelini fine-tuning ve RAG olmadan büyük modelle kıyaslayıp "yetersiz" damgası vurmak. Adil kıyas, desteklenmiş küçük model ile yapılır.
• Kalite eşiği tanımlamadan seçmek: Eşik olmadan "yeterli mi" ölçülemez; karar keyfi ve savunulamaz hale gelir.
• Kamuya açık benchmark'a körü körüne güvenmek: Genel sınavda yüksek puan, sizin görevinizde yüksek performans anlamına gelmez. Büyük model karşılaştırma kararı kendi verinizle verilmelidir.
• Maliyeti kalitenin önüne koymak: En ucuz modeli seçip kaliteyi eşiğin altına indirmek yanlış ekonomidir; amaç kabul edilebilir kaliteyi en ucuza üretmektir.
• Tek modele kilitlenmek: Mimariyi tek bir modele veya sağlayıcıya bağlamak, ekosistem değiştiğinde esnekliği yok eder. Karma mimari bu riski azaltır.
• Görevi tanımlamadan modele koşmak: Belirsiz görev tanımı, belirsiz model seçimine yol açar. Görev bazlı seçim, iyi bir görev tanımıyla başlar.

Bu rehberdeki her ilke, tek bir disipline dayanır: ölçüm. Küçük mü büyük mü kararı, ancak sizin gerçek görevleriniz üzerinde ölçüldüğünde anlamlıdır; kulaktan dolma "şu model daha iyi" iddiaları veya genel benchmark puanları, sizin bağlamınızda yanıltıcı olabilir. Bu yüzden karar çerçevesinin merkezinde, kendi görevlerinizden türetilmiş bir değerlendirme seti durur.

Ölçümün iki boyutu vardır. Birincisi kalite: modelin sizin görevinizde ne kadar doğru, tutarlı ve dayanaklı çıktı ürettiği. İkincisi maliyet ve gecikme: aynı kaliteyi hangi bedelle ve hangi hızla ürettiği. Bu iki boyutu birlikte ölçtüğünüzde, "küçük model eşiği tutuyor ve on kat ucuz" ya da "bu görevde büyük model gerçekten fark yaratıyor" gibi net, savunulabilir sonuçlara ulaşırsınız. Ölçmeden verilen her model kararı, aslında bir tahmindir. Değerlendirme çerçevesini kurmanın yöntemlerini LLM değerlendirme nedir yazısında ele alıyoruz.

Bir sınırı da dürüstçe belirtmek gerekir: model ekosistemi hızla değişir. Bugün bir görev için en uygun olan küçük dil modeli, birkaç ay sonra yerini daha iyisine bırakabilir; büyük modellerin yetenekleri ve fiyatları da sürekli değişir. Bu yüzden "küçük mü büyük mü" kararı bir kez verilip unutulacak bir şey değil, periyodik olarak yeniden ölçülüp gözden geçirilecek yaşayan bir karardır. Karma mimarinin esnekliği tam da bu yüzden değerlidir: modelleri değiştirmek kolaysa, ekosistemdeki her iyileşmeden hızla yararlanabilirsiniz.

Küçük dil modeli tartışması yalnızca bir strateji meselesi değil; yazılım geliştiren ekipler için çok somut bir günlük karardır. Bir uygulamaya yapay zeka özelliği eklerken, geliştiricinin sorduğu ilk soru "bu iş için en büyük modeli mi çağırmalıyım" olmamalıdır; çünkü çoğu uygulama görevi — bir metni yapılandırmak, bir aracı tetiklemek, bir formu doldurmak — dar ve iyi tanımlıdır ve küçük modelle çok daha ucuz ve hızlı çözülür. Geliştiricilerin yapay zekayı uygulamalarına nasıl entegre edeceğini yazılımcılar için yapay zeka yazısında ele alıyoruz.

Modern uygulamalarda küçük modelin en değerli iki yeteneği, araç çağırma (function calling) ve yapılandırılmış çıktıdır. Araç çağırma, modelin bir dış fonksiyonu veya API'yi tetikleyecek doğru parametreleri üretmesidir; bu, çoğu zaman derin akıl yürütme değil, doğru formatı üretme becerisi gerektirir ve iyi ayarlanmış bir küçük model bunu güvenilir biçimde yapar. Bu mekanizmayı function calling nedir yazısında ele alıyoruz. Yapılandırılmış çıktı ise modelin serbest metin yerine, uygulamanın doğrudan işleyebileceği katı bir formatta (örneğin JSON şeması) yanıt üretmesidir; bunu yapılandırılmış çıktılar yazısında ele alıyoruz.

Bu iki yetenek, küçük modeli bir uygulamanın verimli motoru haline getirir. Bir sohbet asistanının arkasında, gelen mesajı sınıflandıran, doğru aracı çağıran ve sonucu yapılandıran görevlerin çoğu küçük modelle koşulabilir; yalnızca gerçekten karmaşık, açık uçlu muhakeme gerektiren adım büyük modele yükseltilir. Bu, geliştirici için hem maliyet performans dengesi hem de gecikme açısından büyük kazançtır: uygulama daha hızlı yanıt verir ve her çağrıda büyük model ücreti ödenmez. Küçük model, modern yapay zeka uygulamalarının görünmeyen ama en çok çalışan bileşenidir.

Küçük dil modeli kararı, Türkçe içerikle çalışıldığında ek bir katman kazanır; çünkü Türkçenin eklemeli yapısı, zengin çekim sistemi ve morfolojik derinliği, modelin performansını doğrudan etkiler. Genel olarak güçlü sayılan bir küçük model, Türkçede beklenenden zayıf kalabilir; tersine, Türkçeye özel eğitilmiş veya ayarlanmış bir model, kendi boyutunun çok üstünde performans gösterebilir. Bu yüzden Türkçe bir görevde model ölçeği kararı, mutlaka Türkçe bir değerlendirmeyle verilmelidir. Doğal dil işlemenin temelini doğal dil işleme nedir yazısında ele alıyoruz.

Türkçe küçük model manzarası son yıllarda belirgin biçimde zenginleşti; yerel ve açık kaynak modeller, Türkçe görevlerde giderek daha güçlü seçenekler sunuyor. Bu ekosistemi Türkçe açık kaynak LLM manzarası yazısında ele alıyoruz. Bir Türkçe görev için doğru küçük modeli seçerken, kamuya açık genel puanlar yerine Türkçe benchmark'lara ve kendi görev setinize bakmak gerekir; Türkçe model değerlendirmesinin ölçütlerini Türkçe LLM benchmark yazısında ele alıyoruz.

Türkiye bağlamında bunun ayrı bir stratejik önemi var. Türkiye, üretken yapay zeka araçlarının benimsenmesinde dünyanın önde gelen ülkelerinden biri; bu yüksek talep, Türkçeyi iyi yapan verimli bir küçük dil modelinin kurumsal değerini artırıyor. Türkçe görevi düşük maliyet ve gecikmeyle çözen bir model, hem daha iyi bir kullanıcı deneyimi hem de daha sürdürülebilir bir maliyet performans dengesi sunar. Yani Türkçe tarafında da sonuç değişmiyor: doğru soru "en büyük model hangisi" değil, "bu Türkçe görev için doğru ölçek hangisi" sorusudur — ve cevap çoğu zaman iyi ayarlanmış bir küçük modeldir.

Küçük dil modeliyle bir görevi çözmek, işin sonu değil başıdır; asıl mesele, kaliteyi zaman içinde korumaktır. Bir model üretime alındıktan sonra sabit kalmaz: kullanıcı soruları evrilir, veri değişir, yeni durumlar ortaya çıkar. İzleme ve geri bildirim disiplini olmadan, bugün eşiği tutan bir küçük model, birkaç ay sonra sessizce eşiğin altına düşebilir ve kimse fark etmeyebilir. Bu yüzden model ölçeği kararı, bir kez verilip unutulacak bir seçim değil, sürekli izlenen bir süreçtir.

İzlemenin üç boyutu vardır. Birincisi kalite kayması: modelin çıktı kalitesinin zamanla düşüp düşmediğini, düzenli olarak değerlendirme setiyle ölçmek. İkincisi maliyet ve gecikme: her sorgunun bedelini ve yanıt süresini üretimde takip etmek; beklenmedik bir artış, bir sorunun işareti olabilir. Üçüncüsü kullanıcı geri bildirimi: kullanıcıların yanıtları yararlı bulup bulmadığını toplamak ve bu sinyali sisteme geri beslemek. Bu üç boyutu izlemeden, "küçük model hâlâ yeterli mi" sorusuna güncel bir cevap veremezsiniz. Üretimde model davranışını izlemenin araç ve yöntemlerini LLMOps nedir ve loglama tarafını LLM izleme ve loglama yazılarında ele alıyoruz.

Geri bildirim döngüsü, küçük modelin en güçlü yanlarından birini besler: iyileştirilebilirlik. Kullanıcıların takıldığı, modelin yanıldığı durumları toplayıp, bunları küçük modelin fine-tuning verisine eklediğinizde, model o zayıf noktalarında güçlenir. Bu döngü sayesinde küçük model, zamanla sizin görevinize giderek daha iyi uyum sağlar. Büyük modelde bu tür bir alan uyarlaması genellikle mümkün veya ekonomik değildir; oysa küçük modelde geri bildirimle sürekli iyileşme, uzun vadede önemli bir maliyet performans dengesi avantajıdır. Kaliteyi korumak, modeli değiştirmekten çok, ölçmek ve öğrenmekle ilgilidir.

Küçük mü büyük mü kararı, teknik bir tercih olduğu kadar bir bütçe ve satın alma kararıdır; ve bu iki boyut çoğu zaman birbirinden kopuk ele alınır. Teknik ekip "hangi model daha iyi" diye düşünürken, finans tarafı "bu yatırım kendini nasıl amorti edecek" diye sorar. Sağlıklı bir karar, bu iki bakışı birleştirir: modelin kalitesini, onu çalıştırmanın toplam sahip olma maliyetiyle (total cost of ownership) birlikte değerlendirir.

Toplam maliyet yalnızca sorgu başına ücret değildir. Bulut API'siyle büyük model kullanmak, öngörülebilir ama hacimle doğrusal büyüyen bir işletme gideridir; kendi altyapınızda küçük model çalıştırmak ise önden donanım yatırımı ve operasyonel yük getirir ama hacim büyüdükçe birim maliyeti düşer. Hangisinin daha ekonomik olduğu, hacme ve gizlilik gereksinimine bağlıdır: düşük hacimde bulut, yüksek ve sürekli hacimde on-premise küçük model çoğu zaman öne çıkar. Bu kararın çerçevesini kurumsal AI bütçesi planlama ve yap-satın al-birleştir ekseninde build, buy, assemble kararı yazılarında ele alıyoruz.

Yatırımın getirisini savunabilmek için bir temel (baseline) şarttır: modeli devreye almadan önce görevin insan eliyle veya mevcut sistemle maliyeti neydi? Bu sayı olmadan, "küçük modelle şu kadar tasarruf ettik" iddiası havada kalır. Yapay zeka yatırımlarının getirisini nasıl hesaplayacağınızı yapay zeka ROI nasıl hesaplanır yazısında ele alıyoruz; aynı disiplin model ölçeği kararı için de geçerlidir. Açık kaynak küçük modellerin kurumsal ekonomisini açık kaynak modeller kurumsal kullanım yazısında derinleştiriyoruz. Sonuçta bütçe kararı da tekniği doğrular: çoğu görev için küçük model, kabul edilebilir kaliteyi çok daha iyi bir maliyet performans dengesiyle üretir.

Bu rehber boyunca küçük dil modelinin gücünü savunduk; ama dengeli bir değerlendirme, küçük modelin risklerini ve sınırlarını da dürüstçe ortaya koymalıdır. Küçük modeli her derde deva sanmak, onu her işe koşmak kadar tehlikelidir. Küçük modelin bilinmesi gereken temel sınırları vardır.

Birinci sınır, dar alan dışına çıkıldığında performansın hızla düşmesidir. Fine-tuning ile bir göreve ayarlanmış küçük model, o görevde parlak olabilir; ama görev tanımı genişlediğinde veya beklenmedik bir girdi geldiğinde, büyük modelin sahip olduğu genelleme esnekliğini gösteremez. İkinci sınır, karmaşık akıl yürütmede kırılganlıktır: çok adımlı bir problemin ortasında küçük model yolu kaybedebilir, tutarsız veya yüzeysel bir sonuç üretebilir. Üçüncü sınır, nadir bilgi eksikliğidir; RAG bunu bir ölçüde telafi etse de, getirilen bilgiyi doğru yorumlamak yine güçlü bir muhakeme gerektirir.

Bu sınırları yönetmenin yolu, küçük modeli bir güvenlik ağıyla kullanmaktır. Küçük model bir yanıttan emin değilse veya girdi tanımlı alanın dışındaysa, sistemin bunu fark edip büyük modele veya bir insana yükseltmesi (escalation) gerekir. Bu "güvenli geri çekilme" mekanizması olmadan, küçük modelin sınırları sessiz hatalara dönüşür. Ayrıca küçük modelin de büyük model gibi halüsinasyon üretebileceğini unutmamak gerekir; ölçek küçüldükçe bu risk bazı görevlerde artabilir. Model değerlendirmesinin bu riskleri nasıl yakaladığını LLM değerlendirme nedir yazısında ele alıyoruz. Dürüst sonuç şudur: küçük model güçlü bir araçtır ama sihirli değnek değildir; gücü, sınırlarını bilerek ve doğru mimariyle kullanıldığında ortaya çıkar.

Küçük mü büyük mü tartışmasının kurumsal sonucu tek bir cümlede özetlenebilir: kazanan tek bir model ölçeği değil, görevi doğru ölçekle eşleştiren mimaridir. Küçük dil modeli, dar ve tekrarlı görevlerde — özellikle fine-tuning, RAG ve distilasyon ile desteklendiğinde — hem kaliteyi tutturur hem de maliyet performans dengesinde büyük modeli açık ara geçer. Büyük model ise en zor, en açık uçlu ve en yüksek riskli görevlerde vazgeçilmez kalır. Doğru kurumsal tutum, birini diğerine tercih etmek değil, ikisini akıllıca yöneten bir karma mimari kurmaktır.

Bu sonuç, kurumlar için somut bir eylem planına dönüşür. Önce görevlerinizi tanımlayın ve her birine bir kalite eşiği koyun. Sonra görev bazlı seçim ilkesiyle, her görevi gereken en küçük yeterli modele eşleyin. Küçük modeli RAG ve fine-tuning ile güçlendirin; yüksek hacimli görevlerde distilasyon ve kuantizasyonla maliyeti daha da düşürün. Son olarak, tüm bunları bir model routing katmanıyla orkestre edin; kolay işi küçüğe, zor işi büyüğe yönlendirin. Bu mimari, hem bugünün maliyetini düşürür hem de yarının ekosistem değişikliklerine karşı sizi esnek tutar.

Eğilimin yönü de bu sonucu doğruluyor: sektör, tek dev modele bağımlılıktan çıkıp çok ölçekli, orkestre edilmiş bir mimariye geçiyor. Küçük dil modeli bu geçişin en büyük kazananlarından biri; ama büyük model de kaybeden değil, en zor işlere ayrılan güçlü bir bileşen. Kurumunuz için doğru model ölçeği stratejisini kurmak, bir pilot tasarlamak veya mevcut mimarinizi maliyet performans dengesi açısından gözden geçirmek isterseniz, yapay zeka danışmanlığı ile başlayabilir, ekipleriniz için kurumsal eğitim seçeneklerini inceleyebilir ve güncel gelişmeleri takip etmek için bültene kayıt olabilir veya bizimle iletişime geçebilirsiniz.

Küçük model yeterli mi?

Görevin türüne bağlıdır. Dar tanımlı, tekrarlı ve net görevlerde — sınıflandırma, etiketleme, kısa özetleme, veri çıkarımı, biçim dönüştürme, basit soru-cevap — iyi seçilmiş ve gerekiyorsa fine-tuning yapılmış bir küçük dil modeli çoğu zaman fazlasıyla yeterlidir; düşük gecikme ve maliyet nedeniyle daha uygundur bile. Ancak geniş, açık uçlu, çok adımlı akıl yürütme veya nadir/derin bilgi gerektiren görevlerde küçük model yetersiz kalabilir. Yani "yeterli mi" sorusunun cevabı, görev bazlı seçim yapılmadan verilemez. Pratik yaklaşım: önce küçük modelle deneyin, kaliteyi bir değerlendirme setiyle ölçün; eşik tutmuyorsa RAG, fine-tuning veya büyük modele yükseltme düşünün.

Hangi görevde büyük model şart?

Büyük model; birden çok adımı zincirleyen karmaşık akıl yürütme, uzun ve dağınık bağlamı bütünleştirme, yaratıcı ve açık uçlu üretim, nadir/uzun kuyruk bilgisi ve yüksek belirsizlik içeren görevlerde belirgin biçimde üstündür. Karmaşık kod üretimi ve hata ayıklama, hukuki/finansal muhakeme, çok dilli ince nüans, sıfırdan strateji üretme gibi işlerde büyük modelin marjinal kalite farkı hatanın maliyetini fazlasıyla karşılar. Kritik ölçüt hatanın bedelidir: yanlış cevabın maliyeti yüksekse büyük modelin güvenlik payı gerekçelidir. Büyük model karşılaştırma yaparken tek bir benchmark'a değil, sizin görev setinizdeki gerçek performansa bakın.

Eğilim ne yönde?

Eğilim iki yönlü ilerliyor: bir yandan en büyük modeller sınırı yukarı taşımaya devam ediyor, diğer yandan küçük dil modelleri hızla güçleniyor ve giderek daha fazla görevi tek başına veya fine-tuning/RAG/distilasyon ile karşılıyor. Ama asıl belirleyici eğilim üçüncüsü: tek bir dev modele bağımlılık yerine, görevi ölçekle eşleştiren karma (hibrit) mimari ve model routing. Yani soru "küçük mü büyük mü kazanacak" değil; ikisini akıllıca birlikte kullanan mimarinin standart hale gelmesidir. Kurumsal tarafta bu, maliyet performans dengesini yöneten bir yönlendirme katmanı kurmak anlamına geliyor.

SLM nedir ve büyük modelden farkı nedir?

SLM nedir sorusunun kısa cevabı: SLM (Small Language Model, küçük dil modeli), büyük modellere kıyasla çok daha az parametreye sahip, bu sayede daha ucuz, daha hızlı ve çoğu zaman kendi donanımınızda veya uç cihazda çalıştırılabilen bir dil modelidir. Büyük modelden temel farkı kapasite ve genellemedir: büyük model daha geniş bilgi ve daha güçlü açık uçlu akıl yürütme taşırken, küçük model dar bir alanda — özellikle fine-tuning ile — çok verimli çalışır. SLM nedir tartışması aslında bir ölçek–maliyet–kalite üçgeni tartışmasıdır; doğru ölçek, görevle belirlenir.

Küçük model + fine-tuning + RAG neden bu kadar güçlü?

Çünkü bu üçlü, küçük modelin iki zayıflığını kapatır. Fine-tuning, modele alanınızın diline, formatına ve görev desenine hâkimiyet kazandırır; böylece küçük model, dar görevde büyük modele yaklaşır. RAG ise modelin eğitimde görmediği güncel ve kuruma özel bilgiyi, yanıt anında dışarıdan getirerek besler; böylece "bilmiyor" sorunu çözülür. Sonuçta küçük dil modeli, kendi başına yetmediği yerde dış bilgi ve alan uyarlamasıyla desteklenir ve maliyet performans dengesi büyük modele göre çok daha iyi hale gelir. Bu, çoğu kurumsal senaryoda en akılcı başlangıç mimarisidir.

Distilasyon ve kuantizasyon arasındaki fark nedir?

İkisi de "daha küçük/ucuz model" hedefler ama farklı yollarla. Distilasyon (bilgi damıtma), büyük bir "öğretmen" modelin davranışını taklit edecek şekilde daha küçük bir "öğrenci" model eğitmektir; sonuçta yeni, daha küçük bir model elde edersiniz. Kuantizasyon ise var olan bir modelin sayısal ağırlıklarını daha düşük hassasiyetle (örneğin 16 bit yerine 8 veya 4 bit) temsil ederek modeli küçültüp hızlandırmaktır; model aynı kalır, yalnızca daha ucuz çalışır. Pratikte ikisi birleştirilebilir: önce distilasyonla küçük bir model üretir, sonra kuantizasyonla onu daha da hafifletirsiniz.

Kısaca özetlersek: küçük dil modeli mi büyük model mi sorusunun doğru cevabı, "hangisi kazanır" değil, "hangi görev için hangi ölçek" sorusudur. Küçük dil modeli, dar ve iyi tanımlı görevlerde — fine-tuning, RAG ve distilasyon ile desteklendiğinde — hem kaliteyi tutturur hem de maliyet performans dengesinde öne çıkar. Büyük model, çok adımlı akıl yürütme, nadir bilgi ve yüksek riskli görevlerde vazgeçilmezdir. Karar, görev bazlı seçim ile verilir: her görevi, gereken en küçük yeterli modele eşlersiniz.

En önemli mesaj şudur: eğilim tek dev modele değil, karma mimariye doğrudur. Küçük ve büyük modeli bir model routing katmanıyla orkestre eden mimari, hem bugünün maliyetini düşürür hem de yarının belirsizliğine karşı esnek kalır. Küçük dil modeli bu resimde kaybeden değil, en çok kullanılan verimli bileşen; büyük model ise en zor işlere ayrılan güçlü üst mercii. Kararınızı görev bazlı seçim, ölçülmüş bir kalite eşiği ve sağlıklı bir maliyet performans dengesi üzerine kurduğunuzda, hangi ölçeğin nereye gideceği kendiliğinden netleşir. Temel kavramları pekiştirmek için LLM nedir, fine-tuning nedir ve kuantizasyon nedir yazılarına bakabilir; kurumunuza özel bir model ölçeği stratejisi ve maliyet performans dengesi kurmak için yapay zeka danışmanlığı ile başlayabilir, ekipleriniz için kurumsal eğitim seçeneklerini değerlendirebilirsiniz.