Açık Kaynak LLM Karşılaştırması 2026: Llama, Qwen, Mistral, DeepSeek

Açık kaynak LLM karşılaştırması neden bu kadar önemli? Açık kaynak LLM (open source large language model, açık ağırlıklı büyük dil modeli), ağırlıkları kamuya açık bir lisansla yayımlanan ve kurumun kendi altyapısında indirip çalıştırabildiği, inceleyebildiği ve ince ayar yapabildiği bir dil modelidir. Bu rehber, 2026 itibarıyla en çok konuşulan dört aileyi — Llama, Qwen, Mistral ve DeepSeek — bir AI mühendisi ve danışman titizliğiyle karşılaştırır.

Kurumlar bugün bir seçim eşiğinde: kapalı bir API mi, yoksa kendi altyapılarında çalışan bir açık kaynak LLM mi? Bu karar yalnızca teknik değil; veri egemenliği, KVKK uyumu, maliyet yapısı ve stratejik bağımsızlık kararıdır. Bu yazıda açık kaynak LLM nedir, kapalı modelden farkı nedir ve ne zaman hangisi tercih edilir; Llama, Qwen, Mistral ve DeepSeek ailelerinin güçlü yönleri, lisansları, boyutları ve Türkçe performansı; bir karşılaştırma tablosu; görev, dil, boyut, lisans, maliyet ve barındırmaya dayalı model seçimi kriterleri; ince ayar ve dağıtım; KVKK ile veri egemenliği avantajı; benchmark yaklaşımı; bir karar çerçevesi ve yaygın hatalar sorularını sırayla ele alıyoruz.

Tanım

Açık Kaynak LLM (Open Source LLM)

Ağırlıkları (parametreleri) kamuya açık bir lisansla yayımlanan, kurumun kendi altyapısında indirip çalıştırabildiği, inceleyebildiği ve ince ayar yapabildiği büyük dil modeli. Kapalı modelin aksine yalnızca API'den erişilmez; modelin kendisi kurumun kontrolündedir. Bu, veri egemenliği, KVKK uyumu, maliyet kontrolü ve derin özelleştirme sağlar; buna karşılık barındırma, ölçekleme ve bakım sorumluluğunu kuruma yükler. 2026'nın öne çıkan aileleri Llama, Qwen, Mistral ve DeepSeek'tir.

Ayrıca: Open Source LLM, açık ağırlıklı model, open-weight model, açık kaynak büyük dil modeli

Açık kaynak LLM, en yalın haliyle, "ağırlıklarını indirebildiğiniz" bir dil modelidir. Bir büyük dil modelinin bilgisi ve yeteneği, milyarlarca sayıdan oluşan ağırlıklarında (parametrelerinde) kodludur. Kapalı bir modelde bu ağırlıklar sağlayıcının sunucularında kilitlidir; siz yalnızca bir API çağrısı yapar, cevabı alırsınız. Açık kaynak LLM'de ise bu ağırlık dosyaları bir lisansla yayımlanır; onları indirir, kendi sunucunuza kurar, çalıştırır ve dilerseniz kendi verinizle yeniden eğitirsiniz. Dil modellerinin temelini LLM nedir yazısında, kavramın ayrıntılı tanımını ise açık kaynak LLM nedir yazısında ele alıyoruz.

Burada önemli bir terminoloji inceliği vardır. Yazılım dünyasında "açık kaynak" (open source), kaynak kodun OSI onaylı bir lisansla, tam serbestçe kullanılabildiği anlamına gelir. Dil modellerinde ise çoğu zaman kaynak kod değil, eğitilmiş ağırlıklar yayımlanır; üstelik bazı lisanslar kullanım kısıtları içerir. Bu yüzden bazı uzmanlar daha doğru terim olarak "açık ağırlıklı model" (open-weight model) ifadesini kullanır. Pratikte "açık kaynak llm" ifadesi her ikisini de kapsayacak biçimde yaygınlaşmıştır; ama bir modeli değerlendirirken "gerçekten ne kadar açık?" sorusunu her zaman sormak gerekir.

Bu ayrım kritik bir sonuç doğurur: açık kaynak LLM ile model, sağlayıcıdan bağımsız bir varlığa dönüşür. Modeli çevrimdışı çalıştırabilir, internetten kopararak bir kapalı ağda barındırabilir, kendi verinizle özelleştirebilir ve sağlayıcı fiyat değiştirse veya hizmeti durdursa bile kullanmaya devam edebilirsiniz. Bir modelin metni nasıl parçalara ayırdığını anlamak için token nedir ve altyapıdaki mimariyi kavramak için transformer nedir yazıları iyi bir temel sağlar. Kısacası açık kaynak LLM, "modeli kiralamak" yerine "modele sahip olmak" anlamına gelir — bütün avantajları ve sorumluluklarıyla birlikte.

Açık kaynak LLM ile kapalı modeli karşılaştırırken tek bir üstünlük ekseninde düşünmek yanıltıcıdır; ikisi farklı değer önerileri sunar. Kapalı modeller (yalnızca API üzerinden erişilen ticari modeller) genellikle en üst düzey genel performansı, sıfır kurulum yükünü ve sağlayıcının sürekli iyileştirdiği bir hizmeti sunar. Açık kaynak LLM ise kontrolü, şeffaflığı, veri egemenliğini ve derin özelleştirmeyi sunar. Doğru soru "hangisi daha iyi?" değil, "benim önceliğim hangisiyle örtüşüyor?" olmalıdır.

Kapalı modelin en güçlü olduğu yer, hızlı başlangıç ve en yüksek genel yetenektir. Bir API anahtarı alır, dakikalar içinde üretime geçersiniz; altyapı, ölçekleme ve bakım sizin derdiniz değildir. Buna karşılık veriniz üçüncü bir tarafa gönderilir, maliyet kullanım hacmiyle doğrusal artar, modelin iç işleyişini göremezsiniz ve sağlayıcının fiyat, kota veya politika değişikliklerine bağımlı kalırsınız. Bu bağımlılık, düzenlemeye tabi sektörlerde ve hassas veriyle çalışan kurumlarda ciddi bir risktir.

Açık kaynak LLM'in en güçlü olduğu yer ise kontrol ve mahremiyettir. Veri kurumun sınırları içinde kalır; bu, KVKK ve veri egemenliği açısından belirleyici bir avantajdır. Modeli kendi verinizle ince ayar yaparak markanıza ve alanınıza uyarlayabilir, maliyeti kullanım hacmine değil sabit altyapıya bağlayabilir ve hiçbir sağlayıcıya kilitlenmezsiniz. Bunun bedeli ise sorumluluktur: GPU temini, dağıtım, ölçekleme, güvenlik ve bakım artık sizin işinizdir. Bu sorumluluğu taşıyacak ekip yoksa, açık kaynak LLM'in teorik avantajları pratikte maliyete dönüşebilir.

Açık kaynak LLM ile kapalı model: temel karşılaştırma

Boyut	Açık kaynak LLM	Kapalı model (API)
Veri mahremiyeti	Veri kurum içinde kalır	Veri sağlayıcıya gider
Kurulum yükü	Yüksek (altyapı sizde)	Düşük (anahtar al, başla)
Özelleştirme	Derin (ince ayar, tam erişim)	Sınırlı (sağlayıcının izin verdiği kadar)
Maliyet yapısı	Sabit altyapı + iş gücü	Kullanım başına (token)
Sağlayıcı bağımlılığı	Yok (kilitlenme riski düşük)	Yüksek (fiyat/politika riski)
En iyi kullanım	Hassas veri, yüksek hacim, özelleştirme	Hızlı başlangıç, düşük/değişken hacim

Pratikte birçok olgun kurum ikisini birlikte kullanır: hassas verili ve yüksek hacimli iş yüklerini kendi altyapısındaki bir açık kaynak LLM ile, deneysel veya en üst düzey genel yetenek gerektiren işleri bir kapalı model API'siyle yürütür. Bu "hibrit" yaklaşım, tek bir teknolojiye kilitlenmeden her görevi en uygun araca yönlendirmeyi sağlar. Karar verirken teknoloji tercihinden çok kurumsal önceliği — mahremiyet mi, hız mı, maliyet mi, kontrol mü — netleştirmek gerekir.

Birkaç yıl önce en güçlü dil modelleri neredeyse yalnızca kapalı API'lerdeydi ve açık kaynak seçenekler belirgin biçimde geriden geliyordu. 2026'ya geldiğimizde tablo değişti: açık kaynak LLM aileleri, birçok pratik görevde kapalı modellere yaklaştı, bazı dar alanlarda onları yakaladı. Bu yakınsama, açık kaynak LLM'i kurumsal gündemin merkezine taşıyan birinci nedendir; artık "açık kaynak = zayıf" denklemi geçerli değildir.

İkinci neden veri egemenliği ve düzenlemedir. KVKK, GDPR ve gelişmekte olan EU AI Act gibi çerçeveler, kişisel ve hassas verinin nereye gittiği konusunda kurumlara ağır sorumluluklar yükler. Veriyi bir kapalı model sağlayıcısına — çoğu zaman yurt dışındaki bir sunucuya — göndermek, birçok sektörde hukuki ve itibari risk taşır. Açık kaynak LLM, veriyi kurumun (hatta ülkenin) sınırları içinde tutma imkânı vererek bu riski kökten yönetir. Veri egemenliğinin ne anlama geldiğini sovereign cloud ve veri egemenliği yazısında ayrıntılı ele alıyoruz.

Üçüncü neden maliyet ve ölçektir. Kullanım hacmi büyüdükçe, token başına ödenen kapalı model faturası hızla kabarabilir. Yüksek ve öngörülebilir hacimde, kendi altyapısında çalışan bir açık kaynak LLM toplam sahip olma maliyetinde öne geçebilir. Dördüncü neden ise özelleştirme ve şeffaflıktır: modeli kendi verinizle ince ayar yapabilmek, iç işleyişini denetleyebilmek ve tam kontrol sahibi olabilmek, düzenlemeye tabi veya rekabetçi bir alanda stratejik değer taşır. Bu dört gücün üstüne bir de yerel benimseme eklenir.

Bu dört neden bir araya geldiğinde, açık kaynak LLM artık "bütçe seçeneği" değil, stratejik bir tercih haline gelir. Yine de her kurum için doğru cevap açık kaynak değildir; karar, kurumun önceliklerine, ekibinin olgunluğuna ve iş yükünün doğasına bağlıdır. Şimdi bu kararı somutlaştırmak için dört büyük aileyi ayrı ayrı inceleyelim.

Llama, Meta tarafından geliştirilen ve açık kaynak LLM ekosisteminin fiili bir referans noktası haline gelen model ailesidir. Llama'nın en büyük gücü ekosistemidir: geniş bir topluluk, olgun araç desteği, sayısız ince ayar türevi ve neredeyse her çıkarım (inference) aracının varsayılan desteği. Bir kurum "nereden başlasam?" diye sorduğunda, Llama çoğu zaman en güvenli varsayılandır; çünkü hem belgeleri hem topluluğu hem de üçüncü taraf desteği en olgun olanıdır. Ailenin ayrıntılarını Llama nedir yazısında ele alıyoruz.

Boyut açısından Llama, küçükten büyüğe uzanan bir yelpaze sunar: bir iş istasyonunda çalışabilecek küçük modellerden, ciddi GPU altyapısı gerektiren büyük modellere kadar. Bu boyut çeşitliliği, aynı aile içinde kalıp göreve göre ölçek seçebilmenizi sağlar — bu, dağıtım ve maliyet planlaması açısından önemli bir kolaylıktır. Llama ayrıca çok dilli yeteneklerini sürüm sürüm geliştirmiştir; ancak geleneksel olarak İngilizce merkezli bir güç dengesi taşır, bu yüzden Türkçe gibi dillerde performansı sürüme göre değişkenlik gösterebilir.

Lisans konusu Llama'da özellikle dikkat gerektirir. Llama, klasik OSI anlamında "açık kaynak" değildir; kendi topluluk lisansıyla (community license) gelir. Bu lisans çoğu ticari kullanıma açıktır, ancak belirli kısıtlar içerebilir — örneğin çok büyük ölçekli kullanıcı tabanına sahip şirketler için ek şartlar veya belirli kullanım yasakları. Bu yüzden Llama tabanlı ticari bir ürün planlıyorsanız, kullanacağınız sürümün güncel lisans metnini hukuk biriminizle birlikte okumanız şarttır; "herkes kullanıyor" varsayımı hukuki bir güvence değildir.

Qwen, Alibaba tarafından geliştirilen ve son yıllarda açık kaynak LLM alanının en dikkat çekici ailelerinden biri haline gelen model ailesidir. Qwen'in öne çıkan gücü çok dilliliktir: geniş bir dil yelpazesini iyi destekler ve bu, Türkçe gibi İngilizce dışı dillerde çalışan kurumlar için önemli bir avantaj olabilir. Ayrıca Qwen, kodlama ve matematik gibi yapılandırılmış akıl yürütme gerektiren görevlerde güçlü sonuçlar veren sürümleriyle bilinir; bu, teknik iş yükleri için onu cazip kılar.

Qwen ailesinin ikinci büyük kozu boyut yelpazesidir. Çok küçük modellerden çok büyük modellere kadar geniş bir aralık sunar ve modern sürümlerinin bir kısmı MoE (Mixture of Experts, uzman karışımı) mimarisi kullanır. MoE, çok büyük bir modelin kalitesine daha düşük çıkarım maliyetiyle yaklaşma imkânı verir; çünkü her sorguda parametrelerin yalnızca bir alt kümesi etkinleşir. Bu, aynı aile içinde hem küçük ve ucuz hem de büyük ve güçlü seçenekler arasında görevinize göre seçim yapmanızı sağlar. Ayrıca Qwen'in metin dışında görsel gibi çok kipli (multimodal) yetenekler sunan sürümleri de vardır.

Lisans açısından Qwen genellikle olumlu bir tablo çizer: modellerinin önemli bir kısmı Apache 2.0 gibi izinli lisanslarla gelir ve bu, ticari kullanımı büyük ölçüde kolaylaştırır. Yine de her sürümün lisansı aynı olmayabilir; bazı özel veya çok büyük modeller farklı şartlarla gelebilir. Bu yüzden Qwen'de de "aile Apache 2.0" genellemesine güvenmek yerine, kullanacağınız spesifik modelin lisansını doğrulamak gerekir. Model seçimi sürecinde lisans, teknik performans kadar belirleyicidir.

Türkçe performansı açısından Qwen, güçlü çok dilliliği nedeniyle sıklıkla değerlendirmeye değer bir adaydır; ancak yine de "çok dilli olması Türkçede en iyi olduğu anlamına gelmez" ilkesini unutmamak gerekir. Türkçe ağırlıklı bir görevde Qwen'i Llama, Mistral ve DeepSeek ile aynı Türkçe değerlendirme kümesi üzerinde karşılaştırmak, genel iddialara güvenmekten çok daha sağlıklıdır. Somut Türkçe performans, ancak sizin verinizle ölçüldüğünde anlam kazanır.

Mistral, Fransa merkezli Mistral AI tarafından geliştirilen ve verimlilik odağıyla öne çıkan bir açık kaynak LLM ailesidir. Mistral'in imza gücü, "küçük ama güçlü" modeller üretmesidir: görece az parametreyle etkileyici performans veren modelleri, sınırlı donanımda çalışmak veya çıkarım maliyetini düşük tutmak isteyen kurumlar için özellikle caziptir. Bu verimlilik felsefesi, Mistral'i özellikle kaynak kısıtı olan veya yüksek hacimli çıkarım yapan senaryolarda güçlü bir aday yapar.

Mistral'in ikinci ayırt edici özelliği Avrupa merkezli konumudur. Avrupa'da kurulu ve Avrupa veri/düzenleme bağlamına yakın bir sağlayıcı olması, GDPR ve veri egemenliği hassasiyeti yüksek Avrupalı — ve Avrupa'ya hizmet veren Türk — kurumlar için stratejik bir tercih nedeni olabilir. Ailenin bazı modelleri MoE mimarisi kullanır ve bu, verimlilik odağını daha da ileri taşır. Mistral ayrıca hem tamamen açık ağırlıklı modeller hem de daha büyük ticari/araştırma modelleri sunan bir portföy izler.

Lisans açısından Mistral karışık bir tablo çizer ve bu ayrımı bilmek kritiktir. Mistral'in açık ağırlıklı temel modellerinin bir kısmı Apache 2.0 gibi izinli lisanslarla gelir; ancak daha büyük veya yeni bazı modeller, ticari kullanımı sınırlayan ya da ayrı anlaşma gerektiren araştırma lisanslarıyla yayımlanabilir. Yani "Mistral açık kaynak" demek, ailenin her modelinin serbestçe ticari kullanılabileceği anlamına gelmez. Model seçimi yaparken, hedeflediğiniz spesifik modelin lisansını mutlaka ayrı ayrı doğrulayın.

Türkçe performansı açısından Mistral değerlendirmeye değer bir adaydır, ancak çok dillilik konusunda Qwen kadar öne çıkan bir iddia taşımaz; bu, sürüme ve boyuta göre değişir. Verimlilik odaklı küçük bir Mistral modeli, düşük maliyetli bir Türkçe görev için mükemmel bir başlangıç noktası olabilir — ama yine, kesin karar kendi Türkçe değerlendirme kümenizle verilmelidir. Mistral'in en büyük vaadi, "daha küçük modelle yeterli kaliteyi yakalayıp maliyeti düşürmek" isteyen ekipler içindir.

DeepSeek, güçlü akıl yürütme (reasoning) yetenekleri ve maliyet verimliliğiyle açık kaynak LLM sahnesinde büyük ilgi toplayan bir Çin merkezli model ailesidir. DeepSeek'in en çok konuşulan yönü, karmaşık akıl yürütme, matematik ve kodlama gibi çok adımlı düşünme gerektiren görevlerde güçlü sonuçlar veren modelleridir. Akıl yürütme odaklı bu yaklaşım, DeepSeek'i özellikle analiz, problem çözme ve teknik görevlerin ağırlıklı olduğu senaryolarda dikkate değer bir aday yapar. Ailenin ayrıntısını DeepSeek nedir yazısında ele alıyoruz.

DeepSeek'in ikinci öne çıkan özelliği mimari ve maliyet verimliliğidir. Aile, MoE (uzman karışımı) mimarisini etkin biçimde kullanır ve eğitim/çıkarım verimliliğine yaptığı vurguyla bilinir. Bunun pratik anlamı, çok büyük bir modelin kalitesine görece düşük çıkarım maliyetiyle yaklaşabilmesidir. Yüksek hacimli veya maliyet duyarlı senaryolarda bu, DeepSeek'i cazip kılan temel etkendir. Ayrıca DeepSeek'in bazı modelleri, akıl yürütme adımlarını açıkça üreten "düşünen model" (reasoning model) yaklaşımını benimser; bu, düşünce zincirinin (chain-of-thought) değerli olduğu görevlerde avantaj sağlar.

Lisans açısından DeepSeek genellikle olumlu bir konumdadır: modellerinin önemli bir kısmı MIT gibi oldukça izinli lisanslarla yayımlanır, bu da ticari kullanımı büyük ölçüde serbest bırakır. Yine de her sürümün lisans ve kullanım şartlarını doğrulamak gerekir; ayrıca bir Çin merkezli sağlayıcının modelini kullanırken, bazı kurumlar için jeopolitik, veri politikası veya kurumsal uyum kaygıları ek bir değerlendirme boyutu olabilir. Modeli kendi altyapınızda çevrimdışı çalıştırmak, bu kaygıların bir kısmını (veri gönderimi endişesini) doğrudan ortadan kaldırır.

Türkçe performansı açısından DeepSeek de kendi değerlendirme kümenizle test edilmeyi hak eder; akıl yürütme gücü İngilizcede belirgin olsa da, Türkçe üretim kalitesi sürüme göre değişebilir. DeepSeek'i özellikle akıl yürütme ağırlıklı bir görevde — örneğin karmaşık analiz veya kod üretimi — Llama, Qwen ve Mistral ile aynı Türkçe test seti üzerinde karşılaştırmak, güçlü ve zayıf yönlerini net biçimde ortaya çıkarır. Model seçimi, ancak bu tür somut karşılaştırmalarla sağlam bir zemine oturur.

Dört aileyi ayrı ayrı inceledikten sonra, onları yan yana görmek karar sürecini netleştirir. Aşağıdaki tablo, her ailenin genel karakterini özetler. Önemli bir uyarı: bu tablo genel eğilimleri gösterir, kesin bir sıralama değildir; her aile sürümden sürüme değişir ve doğru karar, sizin göreviniz ve verinizle yapılan değerlendirmeye dayanır.

Açık kaynak LLM aileleri: genel karakter karşılaştırması (2026, illüstratif — kendi verinizle doğrulayın)

Aile	Öne çıkan güç	Tipik lisans eğilimi	Dikkat noktası
Llama (Meta)	Geniş ekosistem, olgun araç desteği	Kendi topluluk lisansı (kısıt içerebilir)	OSI anlamında tam açık değil; lisansı oku
Qwen (Alibaba)	Güçlü çok dillilik, geniş boyut yelpazesi, kod/matematik	Sıklıkla Apache 2.0 (sürüme göre)	Her sürümün lisansını ayrı doğrula
Mistral (Mistral AI)	Verimlilik, küçük-güçlü modeller, Avrupa merkezi	Karışık: bazıları Apache 2.0, bazıları araştırma lisansı	Ticari kullanımda lisans ayrımı kritik
DeepSeek	Akıl yürütme odağı, maliyet verimliliği, MoE	Sıklıkla MIT (sürüme göre)	Jeopolitik/uyum kaygısı ek boyut olabilir

Bu tabloyu okurken üç ilkeyi akılda tutmak gerekir. Birincisi, "öne çıkan güç" sütunu bir eğilimdir, garanti değil; belirli bir sürüm bu genellemeden sapabilir. İkincisi, "lisans eğilimi" sütunu bir başlangıç noktasıdır; kullanacağınız spesifik modelin güncel lisansı her zaman esastır ve zamanla değişebilir. Üçüncüsü, hiçbir hücre "Türkçede en iyi" iddiası taşımaz; çünkü bunu ancak siz kendi verinizle ölçebilirsiniz.

Tablonun asıl değeri, "hangisi en iyi?" sorusundan "benim önceliğim hangi ailenin gücüyle örtüşüyor?" sorusuna geçmenizi sağlamasıdır. Ekosistem olgunluğu mu önceliğiniz? Llama. Çok dillilik ve boyut esnekliği mi? Qwen. Verimlilik ve Avrupa yakınlığı mı? Mistral. Akıl yürütme ve maliyet mi? DeepSeek. Ancak bu, kesin bir reçete değil, aday listenizi daraltan bir pusuladır; asıl karar bir sonraki bölümdeki kriterlerle şekillenir.

Doğru model seçimi, "en popüler modeli al" ile değil, altı kriteri kendi bağlamınızda tartarak yapılır. Bu altı kriter, dört aile arasındaki tercihi somut bir mühendislik kararına dönüştürür. Hiçbiri tek başına belirleyici değildir; asıl beceri, bunları kurumunuzun önceliğine göre ağırlıklandırmaktır.

Birinci kriter görevdir. Ne yapacak bu model? Kod üretimi, özetleme, sınıflandırma, sohbet, akıl yürütme — her görev farklı güçler ister. Akıl yürütme ağırlıklı bir görev DeepSeek'i, çok dilli bir görev Qwen'i, geniş araç uyumu gerektiren bir görev Llama'yı öne çıkarabilir. İkinci kriter dildir: görev Türkçe ağırlıklıysa, modelin Türkçe performansı belirleyici hale gelir ve bunu kendi verinizle ölçmek şarttır. Üçüncü kriter model boyutudur: göreve yeten en küçük modeli seçmek hem maliyeti hem gecikmeyi düşürür; "ne kadar büyük o kadar iyi" bir yanılgıdır.

Dördüncü kriter lisanstır. Ticari bir ürün mü kuruyorsunuz, yeniden mi dağıtacaksınız, türev model mi üreteceksiniz? Bu sorular, izinli lisanslı (Apache 2.0, MIT) modelleri mi yoksa kısıtlı topluluk lisanslı modelleri mi seçebileceğinizi belirler. Beşinci kriter maliyettir: toplam sahip olma maliyeti, model lisansından çok barındırma, GPU, ölçekleme ve iş gücünü kapsar. Altıncı kriter barındırmadır: modeli bulutta mı, kendi veri merkezinizde mi (on-premises), yoksa hibrit mi çalıştıracaksınız? Bu karar hem maliyeti hem KVKK uyumunu doğrudan etkiler; ayrıntısını on-premises yapay zeka ve bulut KVKK yazısında ele alıyoruz.

Model seçimi: altı kriter ve karar üzerindeki etkisi

Kriter	Sorulacak soru	Karara etkisi
Görev	Model ne yapacak?	Aileyi güçlü olduğu alana göre eşle
Dil	Görev hangi dilde?	Türkçe ise performansı ölçerek seç
Boyut	Göreve yeten en küçük boyut ne?	Maliyet ve gecikmeyi belirler
Lisans	Ticari/yeniden dağıtım gerekli mi?	İzinli mi kısıtlı mı lisans seçimini yönlendirir
Maliyet	Toplam sahip olma maliyeti ne?	Altyapı + iş gücünü hesaba kat
Barındırma	Bulut mu, on-prem mi, hibrit mi?	KVKK uyumu ve maliyeti etkiler

Bu altı kriteri bir arada değerlendirmenin en pratik yolu, önce iki-üç aday model belirleyip sonra bunları aynı ölçütlerle karşılaştırmaktır. Tek bir kritere (örneğin yalnızca benchmark skoru veya yalnızca maliyet) saplanmak, çoğu zaman üretimde pişmanlık doğurur. İyi bir model seçimi, bu altı ekseni kurumunuzun gerçek önceliğine göre dengeleyen bilinçli bir uzlaşıdır — mükemmel model değil, sizin bağlamınıza en uygun model aranır.

Açık kaynak LLM dünyasında en çok yanlış anlaşılan konu lisanslardır ve bu yanlış anlama ciddi hukuki risk doğurabilir. "Açık kaynak" ifadesi sezgisel olarak "her şey serbest" çağrışımı yapar; oysa dil modeli lisansları geniş bir yelpazede yer alır ve bazıları önemli kısıtlar içerir. Bu yüzden bir modeli üretime almadan önce lisansını okumak, teknik değerlendirme kadar kritik bir adımdır.

Lisansları kabaca üç gruba ayırabiliriz. Birincisi izinli (permissive) lisanslardır: Apache 2.0 ve MIT gibi. Bu lisanslar ticari kullanıma, değiştirmeye ve yeniden dağıtıma büyük ölçüde izin verir; genellikle yalnızca atıf ve sorumluluk reddi gibi hafif şartlar taşır. Qwen'in birçok modeli Apache 2.0, DeepSeek'in birçok modeli MIT bu gruba örnektir. İkincisi topluluk/özel lisanslardır: Llama'nın kendi lisansı gibi. Bunlar çoğu kullanıma açık olsa da belirli kısıtlar (ölçek sınırı, kullanım yasağı, özel şartlar) içerebilir. Üçüncüsü araştırma/ticari-olmayan lisanslardır: modeli yalnızca araştırma için serbest bırakan, ticari kullanım için ayrı anlaşma gerektiren lisanslar; bazı büyük Mistral modelleri bu kategoriye girebilir.

Açık kaynak LLM lisans tipleri ve pratik anlamı (kullanmadan önce güncel metni doğrulayın)

Lisans tipi	Örnek	Ticari kullanım	Dikkat
İzinli (permissive)	Apache 2.0, MIT	Büyük ölçüde serbest	Atıf/sorumluluk reddi şartları
Topluluk/özel lisans	Llama community license	Çoğunlukla açık, kısıtlı	Ölçek sınırı/özel şartlar olabilir
Araştırma / ticari-olmayan	Bazı büyük/yeni modeller	Ayrı anlaşma gerekir	Üretimde kullanmadan önce izin al

Pratik bir uyarı: lisanslar sürüm sürüm değişir. Bir ailenin bir modeli Apache 2.0 iken, bir sonraki büyük modeli farklı şartlarla gelebilir. Bu yüzden "Qwen Apache'dir" veya "Mistral açıktır" gibi genellemelere güvenmek yerine, kullanacağınız spesifik model ve sürümün güncel lisans metnini doğrulamak gerekir. Özellikle ticari kullanım, yeniden dağıtım, türev modellerin lisanslanması ve çıktıların kullanımı konularına dikkat edin.

Açık kaynak LLM'in en büyük vaatlerinden biri, modeli kendi verinizle özelleştirebilmektir. Bu özelleştirme iki ana yaklaşımla yapılır ve hangisini seçeceğiniz maliyeti doğrudan belirler. Birincisi ince ayar (fine-tuning): modelin ağırlıklarını kendi verinizle yeniden eğiterek davranışını, tonunu veya alan uzmanlığını kalıcı olarak ayarlamak. İkincisi RAG (getirmeyle zenginleştirilmiş üretim): modeli değiştirmeden, ona dışarıdan güncel bilgi beslemek. İkisinin farkını ve ne zaman hangisini seçmek gerektiğini RAG mi fine-tuning mi yazısında ayrıntılı ele alıyoruz.

İnce ayar tarafında en önemli pratik kavram verimli yöntemlerdir. Tam ince ayar (full fine-tuning) modelin tüm parametrelerini yeniden eğitir; bu güçlü ama pahalı ve donanım-yoğundur. Bunun yerine çoğu kurum LoRA (Low-Rank Adaptation) gibi parametre-verimli yöntemleri kullanır: modelin çoğunu dondurup yalnızca küçük bir adaptör katmanını eğitmek, maliyeti ve donanım ihtiyacını çarpıcı biçimde düşürür. LoRA'nın nasıl çalıştığını LoRA nedir ve ince ayarın genelini fine-tuning nedir yazısında bulabilirsiniz. Verimli yöntemler sayesinde, bir zamanlar yalnızca büyük laboratuvarların yapabildiği özelleştirme, artık orta ölçekli bir ekibin de erişimindedir.

Dağıtım (deployment) tarafında ilk karar barındırma modelidir: modeli bulutta bir GPU örneğinde mi, kendi veri merkezinizde mi, yoksa hibrit mi çalıştıracaksınız? Yerel deneme ve prototipleme için Ollama nedir gibi araçlar modeli bir makinede hızla ayağa kaldırmayı kolaylaştırır; üretim ölçeğinde ise ölçeklenebilir bir çıkarım servisi, yük dengeleme ve izleme gerekir. Donanım tarafında GPU seçimi belirleyicidir; modelin bellek ayak izini düşürmek için nicemleme (quantization) gibi teknikler kullanılır. GPU'nun rolünü GPU nedir yazısında ele alıyoruz.

Üretim ortamında bir açık kaynak LLM'i çalıştırmak, onu bir kez kurup unutmak değildir; sürekli izleme, değerlendirme, sürüm yönetimi ve güncelleme gerektirir. Bu operasyonel disiplinin bütününe LLMOps denir ve açık kaynak LLM'de bu sorumluluk tümüyle kuruma aittir. Modelin davranışını izlemek, bozulmaları yakalamak ve maliyeti kontrol altında tutmak için gereken çerçeveyi LLMOps nedir yazısında ele alıyoruz. İnce ayar ve dağıtım kararları birlikte, açık kaynak LLM'in gerçek toplam maliyetini ve başarısını belirler.

Açık kaynak LLM'in "lisansı ücretsiz" olması, onu otomatik olarak ucuz yapmaz; gerçek karar, toplam sahip olma maliyetiyle (TCO, total cost of ownership) verilir. Kapalı bir modelin maliyeti görece basittir: token başına bir fiyat ödersiniz. Açık kaynak LLM'de ise maliyet birkaç kaleme yayılır ve bunların çoğu görünmezdir; bu yüzden "bedava" yanılgısı, TCO hesaplanmadan verilen en yaygın hatalardan biridir.

Birinci kalem donanım ve barındırmadır. Modeli çalıştırmak için GPU (bulutta kiralık veya kendi veri merkezinizde satın alınmış) gerekir; bu, açık kaynak LLM'in en büyük maliyet kalemidir. GPU'lar hem pahalı hem de kıttır; boşta bekleyen bir GPU bile para yakar. GPU'nun rolünü GPU nedir yazısında ele alıyoruz. İkinci kalem çıkarım verimliliğidir: aynı görevi daha küçük bir modelle veya nicemlenmiş (quantized) bir sürümle çalıştırabilirseniz, aynı donanımda daha çok istek karşılar, maliyeti düşürürsünüz. Üçüncü kalem iş gücüdür — ve çoğu zaman en hafife alınandır: modeli kuran, ölçekleyen, izleyen ve güncelleyen uzman ekip, TCO'nun büyük ve sürekli bir parçasıdır.

Açık kaynak LLM ve kapalı model: toplam maliyet kalemleri (illüstratif — kendi hacminizle hesaplayın)

Maliyet kalemi	Açık kaynak LLM	Kapalı model (API)
Model lisansı	Çoğunlukla ücretsiz	Token başına dahil
Donanım / GPU	Yüksek (sizde)	Yok (sağlayıcıda)
Ölçekleme	Siz yönetirsiniz	Otomatik (fiyata dahil)
Uzman iş gücü	Yüksek ve sürekli	Düşük
Hacim büyüdükçe	Marjinal maliyet düşer	Fatura doğrusal artar

Bu tablodan çıkan pratik kural şudur: düşük ve değişken hacimde kapalı model API'si genellikle daha ekonomik başlar, çünkü sabit altyapı ve iş gücü maliyeti yoktur. Ancak hacim yüksek ve öngörülebilir olduğunda, kendi altyapısında çalışan bir açık kaynak LLM'in marjinal maliyeti (her ek istek için ödediğiniz) çok düşer ve belirli bir eşiğin üstünde toplamda öne geçer. Buna bir de veri egemenliği zorunluluğu eklenirse, denklem açık kaynak lehine daha da kayar. ROI ve maliyet hesabının genel disiplinini yapay zeka ROI nasıl hesaplanır yazısında ele alıyoruz; aynı çerçeve açık kaynak LLM için de geçerlidir. Doğru cevap, gerçek kullanım hacminizle yapılan bir hesapla bulunur; genel bir kural değil.

Türkiye bağlamında açık kaynak LLM'in en belirleyici avantajı, teknik performanstan çok veri egemenliği ve KVKK uyumudur. Nedeni basittir: kapalı bir model API'sine bir istem gönderdiğinizde, o istemdeki veri — çoğu zaman yurt dışındaki — üçüncü bir tarafın sunucusuna gider. Kişisel veya hassas veri içeren senaryolarda bu, KVKK açısından ciddi bir mesele doğurur. Açık kaynak LLM'i kendi altyapınızda çalıştırdığınızda ise veri hiçbir zaman kurumun sınırlarından çıkmaz; bu, birçok düzenlemeye tabi kurum için tek başına belirleyici bir tercih nedenidir.

KVKK (Kişisel Verilerin Korunması Kanunu), kişisel verinin işlenmesi, aktarılması ve saklanması konusunda kurumlara ağır yükümlülükler getirir. Veriyi yurt dışına aktarmak özel şartlara tabidir ve her senaryoda mümkün olmayabilir. Açık kaynak LLM, veriyi ülke ve kurum sınırları içinde tutarak bu yükümlülüklerin önemli bir kısmını kökten yönetir. KVKK'nın genel çerçevesini KVKK nedir ve KVKK uyumlu bir yapay zeka mimarisi kurmayı KVKK uyumlu yapay zeka nedir yazısında ele alıyoruz. Bu çerçeve tanımsal ve bilgilendirme amaçlıdır; hukuki tavsiye değildir ve kurumunuzun hukuk/uyum birimiyle birlikte uygulanmalıdır.

Ancak "kendi altyapımda çalıştırıyorum" demek, otomatik olarak KVKK uyumlu olmak anlamına gelmez. Açık kaynak LLM'i veri egemenliği aracına dönüştürmek için birkaç ek disiplin gerekir. Erişim kontrolü: modele ve verilerine kimin erişebileceği tanımlanmalı. Loglama ve denetim: kim, ne zaman, hangi veriyle etkileşti kaydı tutulmalı — ama logların kendisi de kişisel veri içerebileceğinden dikkatle yönetilmelidir; bunu LLM loglama ve KVKK yazısında ele alıyoruz. Ayrıca eğitim/ince ayar verisinde kişisel veri varsa, anonimleştirme ve amaçla sınırlılık ilkeleri devreye girer.

Açık kaynak LLM seçiminde en yaygın yanılgılardan biri, "en büyük model en iyisidir" varsayımıdır. Oysa model boyutu bir kalite göstergesi değil, bir tasarım tercihidir; ve çoğu kurumsal görevde göreve yeten en küçük model, en doğru seçimdir. Büyük bir model daha çok bilgi ve yetenek taşıyabilir, ama aynı zamanda daha çok GPU belleği ister, daha yavaş yanıt verir ve her istekte daha çok maliyet üretir. Boyut kararı, bu gerilimi kurumunuzun önceliğine göre dengelemektir.

Boyutu üç sınıfta düşünmek pratiktir. Küçük modeller (birkaç milyar parametre): sınıflandırma, özetleme, basit soru-yanıt gibi dar görevlerde çoğu zaman yeterlidir; tek bir GPU'da, bazıları güçlü bir iş istasyonunda çalışır; hız ve maliyet avantajı yüksektir. Orta modeller (on ila birkaç on milyar parametre): karmaşık talimat takibi, çok adımlı akıl yürütme ve nitelikli üretim gerektiren görevlerde denge noktasıdır. Büyük modeller (çok yüksek parametre): en zorlu akıl yürütme ve genel yetenek görevlerinde öne çıkar, ama ciddi altyapı ister ve çoğu kurumsal senaryo için gereğinden ağırdır.

Boyut kararını kolaylaştıran bir teknik, MoE (uzman karışımı) mimarisidir. Bazı Qwen, Mistral ve DeepSeek sürümlerinde görülen bu yaklaşım, çok büyük bir modelin kalitesine daha düşük çıkarım maliyetiyle yaklaşmayı sağlar; çünkü her sorguda parametrelerin yalnızca bir alt kümesi etkinleşir. Ancak MoE, bellek planlamasını karmaşıklaştırır: tüm parametreler yüklenmeli, dolayısıyla bellek ihtiyacı yüksektir, ama hız aktif parametreye bağlıdır. Ayrıca nicemleme (quantization) — modelin sayısal hassasiyetini düşürerek bellek ayak izini azaltmak — bir modeli daha küçük donanıma sığdırmanın yaygın yoludur; küçük bir kalite kaybıyla önemli bir maliyet tasarrufu sağlayabilir.

Son bir ilke: boyut, model seçiminin altı kriterinden yalnızca biridir ve tek başına değerlendirilmemelidir. Küçük ama Türkçesi güçlü bir model, büyük ama Türkçede zayıf bir modelden sizin göreviniz için daha iyi olabilir. Bu yüzden boyutu, dil, görev ve maliyetle birlikte tartın; "büyük olsun da ne olursa olsun" yerine "göreve yeten en küçük ve en uygun" modeli hedefleyin. Doğru boyut, en büyük değil, sizin bağlamınızda kaliteyi karşılayan en verimli boyuttur.

Açık kaynak LLM seçiminde en sık atlanan ama Türkiye için en kritik boyut, modelin gerçek Türkçe performansıdır. Genel bir yanılgı, "model çok dilli, o halde Türkçede de iyidir" varsayımıdır. Oysa çok dilli olmak, her dilde eşit derecede iyi olmak anlamına gelmez; bir model İngilizcede mükemmel sonuç verirken Türkçede dilbilgisi, ton veya nüans hataları yapabilir. Türkçenin sondan eklemeli yapısı, zengin çekim sistemi ve İngilizceye kıyasla eğitim verisindeki görece azlığı, bu farkı büyütür.

Türkçe performansını değerlendirmenin doğru yolu, genel benchmark tablolarına değil, kendi görevinizden alınmış bir Türkçe değerlendirme kümesine bakmaktır. Bu küme şunları içermelidir: gerçek kullanıcı sorularından örnekler, sizin alanınıza özgü terimler, ve "doğru cevabın" ne olduğunun işaretlendiği referanslar. Sonra iki-üç aday modeli (örneğin bir Qwen, bir Llama, bir DeepSeek) aynı küme üzerinde çalıştırıp çıktılarını yan yana karşılaştırırsınız. Bu, "hangisi Türkçede daha iyi?" sorusuna genel iddialarla değil, sizin verinizle cevap verir.

Türkçe değerlendirmede bakılacak boyutlar tek bir "doğruluk" sayısından fazladır. Dilbilgisi ve akıcılık: model doğru ve akıcı Türkçe üretiyor mu, yoksa çeviri kokan cümleler mi kuruyor? Ton ve nezaket: kurumsal bir bağlama uygun mu? Terim doğruluğu: alanınızın Türkçe terimlerini doğru kullanıyor mu? Talimat takibi: Türkçe verilen yönergeleri İngilizce kadar iyi izliyor mu? Bu boyutları ayrı ayrı ölçmek, tek bir skorun gizlediği zayıflıkları ortaya çıkarır. Değerlendirmenin genel yöntemlerini LLM değerlendirme nedir yazısında ele alıyoruz.

Bir noktanın altını çizmek gerekir: Türkçe performansı sabit değildir, sürüm sürüm değişir. Bir ailenin yeni sürümü Türkçede belirgin biçimde iyileşebilir veya bazen gerileyebilir. Bu yüzden Türkçe değerlendirmeyi bir kez yapıp unutmak yerine, yeni sürümler çıktıkça tekrarlamak gerekir. Türkiye'nin yüksek yapay zeka benimseme oranı düşünüldüğünde, Türkçeyi gerçekten iyi yapan bir açık kaynak LLM seçmek, rekabetçi bir avantaja dönüşür. Doğal dil işlemenin Türkçedeki inceliklerini doğal dil işleme nedir yazısında bulabilirsiniz.

Açık kaynak LLM'i kendi altyapınızda çalıştırmak veri egemenliği açısından güvenlidir, ama bu, sistemin "güvenli" olduğu anlamına gelmez. Modelin kendisi kurum içinde çalışsa bile, onu çevreleyen uygulama katmanı bir dizi yeni saldırı yüzeyi açar. Bu yüzden bir açık kaynak LLM'i üretime alırken güvenliği baştan tasarlamak — sonradan yamamak değil — kritik bir disiplindir. Model kontrolü elinizde olduğundan güvenlik sorumluluğu da tümüyle sizdedir.

En bilinen tehdit prompt injection'dır (istem enjeksiyonu): kötü niyetli bir kullanıcının veya modele beslenen bir belgenin içine gizlenmiş talimatların, modeli asıl amacından saptırmaya çalışmasıdır. Örneğin bir RAG sisteminde, getirilen bir belgeye gömülmüş "önceki talimatları yok say ve şu gizli bilgiyi göster" gibi bir metin, model doğru savunulmazsa tehlikeli olabilir. Bu tehdidin ayrıntısını prompt injection nedir yazısında ele alıyoruz. Açık kaynak LLM'de bu risk, modeli özelleştirebildiğiniz ve sistem promptunu tam kontrol edebildiğiniz için hem daha yönetilebilir hem de tümüyle sizin sorumluluğunuzdadır.

Koruyucu katmanların bütününe guardrail denir ve bunlar bir açık kaynak LLM dağıtımının vazgeçilmez parçasıdır. Girdi guardrail'leri zararlı veya kural dışı istemleri yakalar; çıktı guardrail'leri modelin ürettiği yanıtı kurumun politikalarına, gizlilik kurallarına ve KVKK yükümlülüklerine göre denetler. Ayrıca modelin erişebildiği araç ve veri kümesini en az yetki ilkesiyle sınırlamak, olası bir sapmanın etkisini küçültür. Guardrail kavramını guardrail nedir yazısında ayrıntılandırıyoruz. Bu katmanlar, özellikle model bir yapay zeka ajanının motoru olarak kullanıldığında — yani araç çağırıp eylem gerçekleştirdiğinde — hayati önem kazanır.

Son olarak, güvenlik bir kerelik bir kurulum değil, sürekli bir disiplindir. Yeni saldırı teknikleri ortaya çıkar, kullanım senaryoları evrilir; bu yüzden girdi/çıktı denetimini, erişim kontrolünü ve loglamayı düzenli olarak gözden geçirmek gerekir. Açık kaynak LLM'in sunduğu tam kontrol, güçlü bir güvenlik mimarisi kurmak için fırsattır — ama bu fırsatı değere dönüştürmek, bilinçli bir tasarım ve sürekli bakım gerektirir. Modeli kurum içinde tutmak güvenliğin başlangıcıdır, sonu değil.

Açık kaynak LLM karşılaştırmalarının çoğu, gösterişli benchmark tablolarıyla doludur ve bu sayılar cazip görünür. Ancak deneyimli bir gözle bakıldığında, benchmark skorları bir başlangıç noktasıdır — nihai bir karar değil. Bir modeli yalnızca benchmark sıralamasına göre seçmek, üretimde sıkça pişmanlık doğurur; çünkü genel benchmark'lar sizin özel görevinizi, dilinizi ve verinizi temsil etmeyebilir.

Benchmark'lara sağlıklı bakmanın ilk ilkesi, "hangi benchmark neyi ölçüyor?" sorusudur. Kimi benchmark akıl yürütmeyi, kimi kodlamayı, kimi bilgi geri çağırmayı, kimi çok dilliliği ölçer. Bir model bir benchmark'ta lider olup sizin görevinizle ilgisiz olabilir. İkinci ilke, benchmark kirlenmesi (contamination) riskidir: bazı test soruları modelin eğitim verisine sızmış olabilir, bu da skoru yapay biçimde yükseltir. Üçüncü ilke, tek bir sayının bağlamsız olduğudur: bir puanın anlamı, hangi koşullarda, hangi ayarla ölçüldüğüne bağlıdır.

Doğru yaklaşım, iki katmanlı bir değerlendirmedir. İlk katman, genel benchmark'larla kaba bir eleme: adayları görevinizin türüne (akıl yürütme, çok dillilik, kodlama) göre daraltmak. İkinci katman, kendi görevinizden alınmış bir değerlendirme kümesiyle ince eleme: daraltılmış adayları sizin gerçek verinizle, sizin ölçütlerinizle karşılaştırmak. Bu ikinci katman, bir modeli üretime almadan önce yapılması gereken en değerli yatırımdır. Değerlendirme kümesinin nasıl kurulacağını ve LLM-as-a-judge gibi yöntemleri LLM değerlendirme nedir yazısında ayrıntılandırıyoruz.

Son olarak, benchmark ve değerlendirme bir kerelik bir iş değildir. Modeller güncellenir, göreviniz evrilir, veriniz değişir; bu yüzden değerlendirme kümenizi yaşayan bir varlık gibi güncel tutmak ve her önemli değişiklikte yeniden çalıştırmak gerekir. Sayılara saygı duyun ama onlara tapmayın; asıl otorite, sizin bağlamınızdaki gerçek performanstır.

Açık kaynak LLM'i anlamak bir şey, ilk projeye sağlam bir başlangıç yapmak başka bir şeydir. En yaygın hata, "tüm kurumu tek bir yapay zeka platformuna taşıyalım" gibi devasa bir hedefle başlamaktır; böyle projeler kapsamın genişliği altında ezilir ve değer üretmeden tükenir. Doğru yaklaşım tersidir: tek bir dar, ölçülebilir ve değerli senaryoyla başlamak. İyi bir pilot, riski düşük tutar ve kuruma somut bir kanıt sunar.

İyi bir pilot senaryosunun üç özelliği vardır. Birincisi darlıktır: tek bir departman, tek bir görev tipi, sınırlı bir veri kümesi. İkincisi ölçülebilirliktir: başarının bir sayıyla tanımlanabilmesi — kaç görev doğru yanıtlandı, ne kadar zaman kazanıldı. Üçüncüsü değerdir: pilot başarılı olursa gerçek bir acıyı dindirmesi. Bu üç özelliğe sahip bir pilot, açık kaynak LLM kararınızı soyut bir tartışmadan çıkarıp somut bir deneye dönüştürür.

Pilotu kurarken sıra önemlidir. Önce görevi ve başarı ölçütünü netleştirin; sonra iki-üç aday açık kaynak LLM belirleyin ve bunları kendi Türkçe değerlendirme kümenizle karşılaştırın. Kazanan modeli seçtikten sonra, onu en küçük makul boyutta ve en basit dağıtımla (örneğin yerel bir denemede Ollama ile) ayağa kaldırın. Kaliteyi ölçün, en zayıf halkayı bulun ve iyileştirin; ancak kalite kanıtlandıktan sonra kapsamı ve altyapıyı büyütün. Bu "önce ölç, sonra büyüt" döngüsü, kağıt üzerinde iyi görünüp üretimde çöken projelerle gerçekten başarılı olanları birbirinden ayırır.

Pilotun baştan üretim gerçekliğiyle tasarlanması gerekir: erişim kontrolü, KVKK yükümlülükleri ve değerlendirme "sonradan eklenecek" şeyler değil, birinci günden düşünülecek unsurlardır. Ayrıca pilotu taşıyacak ekibin yetkinliği kritik bir başarı faktörüdür; açık kaynak LLM'in barındırma ve bakım yükünü kaldıracak bilgi kurum içinde yoksa, bu boşluğu eğitim veya dış destekle kapatmak gerekir. Ekiplerin bu yetkinliği kazanması için gereken program seçimini kurumsal yapay zeka eğitimi nedir yazısında ele alıyoruz. Küçük ama sağlam bir pilot, büyük ama belirsiz bir vaatten her zaman daha ikna edicidir ve bir sonraki projenin yolunu açar. Kurumunuza özel bir açık kaynak LLM pilotu tasarlamak için yapay zeka danışmanlığı ile başlayabilirsiniz.

Açık kaynak LLM alanının en belirleyici özelliği hızıdır: bugün öne çıkan bir model, birkaç ay içinde yerini yeni bir sürüme bırakabilir. Bu hız, bir yandan heyecan verici bir yenilik akışı sunar, öte yandan kurumlar için stratejik bir zorluk yaratır: hangi modele yatırım yaptığınız kadar, o yatırımı ne kadar kolay değiştirebileceğiniz de önemlidir. Bu yüzden 2026'da doğru strateji, tek bir modele değil, model değiştirmeyi kolaylaştıran bir mimariye bağlanmaktır.

Ekosistemde birkaç net eğilim göze çarpar. Birincisi, açık kaynak ile kapalı model arasındaki performans farkının birçok pratik görevde daralmasıdır; ikincisi, verimlilik odaklı küçük modellerin ve MoE mimarilerinin yükselişidir — aynı kaliteyi daha az kaynakla üretme yarışı hızlanmaktadır. Üçüncüsü, akıl yürütme (reasoning) yeteneğine yapılan vurgunun artmasıdır; DeepSeek gibi ailelerin öne çıkmasıyla, açık kaynak modeller karmaşık düşünme görevlerinde daha iddialı hale gelmiştir. Dördüncüsü, çok kipli (multimodal) yeteneklerin — metin dışında görsel ve ses — açık kaynak ailelere yayılmasıdır.

Bu evrim, kurumsal karar için önemli bir ders taşır: açık kaynak LLM seçimi tek seferlik değil, süregelen bir süreçtir. Bileşenlerinizi gevşek bağlı tutmak, değerlendirme kümenizi güncel tutmak ve yeni sürümleri düzenli olarak sınamak, ekosistemin hızından ceza değil avantaj devşirmenizi sağlar. Bir sonraki büyük model çıktığında, sisteminizi baştan kurmadan onu deneyebiliyorsanız, doğru mimariyi kurmuşsunuz demektir. Modeli değil, seçme ve değerlendirme disiplinini kalıcı kılın; asıl rekabet avantajı budur.

Aşağıdaki kontrol listesi, açık kaynak LLM kararını fikir aşamasından üretime kadar sağlam biçimde yürütmek için pratik bir rehberdir. Bu adımları sırayla işaretleyebiliyorsanız, model seçiminizi ve dağıtımınızı sağlam bir temele oturtmuş olursunuz.

Nasıl Yapılır

Açık kaynak LLM seçim ve dağıtım kontrol listesi

Bir açık kaynak LLM'i doğru seçmek ve üretime güvenle almak için adım adım kontrol listesi.

1. 1

   Görevi ve başarı ölçütünü netleştir

   Model ne yapacak ve başarıyı hangi sayıyla ölçeceğinizi tanımlayın; belirsiz bir görev, yanlış model seçimine yol açar.

2. 2

   Açık kaynak mı kapalı mı kararını ver

   Veri egemenliği, maliyet, hız ve kontrol önceliklerinizi tartarak açık kaynak LLM'in mi yoksa kapalı bir API'nin mi uygun olduğunu belirleyin.

3. 3

   Aday aileleri daralt

   Görevin türüne göre Llama, Qwen, Mistral ve DeepSeek arasından iki-üç aday belirleyin.

4. 4

   Lisansı hukukla doğrula

   Her aday modelin güncel lisansını, özellikle ticari kullanım ve yeniden dağıtım şartlarını hukuk biriminizle okuyun.

5. 5

   Türkçe değerlendirme kümesiyle test et

   Kendi görevinizden alınmış Türkçe örneklerle adayları aynı ölçütlerle karşılaştırın; benchmark'a değil kendi verinize güvenin.

6. 6

   Boyut ve barındırmayı planla

   Göreve yeten en küçük boyutu seçin; bulut, on-premises veya hibrit barındırmayı KVKK ve maliyete göre kararlaştırın.

7. 7

   İnce ayar/RAG stratejisini belirle

   Bilgi eksikliği için RAG, davranış/üslup için LoRA gibi verimli ince ayar yöntemlerini planlayın.

8. 8

   İzleme ve değerlendirmeyi kur

   Üretimde kalite, maliyet ve gecikmeyi sürekli ölçen bir LLMOps disiplini oturtun; değerlendirmeyi yaşayan tutun.

Bu kontrol listesini dar bir pilot üzerinde uygulamak, büyük bir dönüşüm vaadinden çok daha değerlidir; çünkü küçük ama ölçülebilir bir başarı, büyük ama belirsiz bir plandan her zaman daha ikna edicidir. Kurumunuza özel bir açık kaynak LLM stratejisi ve pilot tasarlamak için yapay zeka danışmanlığı ile başlayabilir, ekipleriniz için kurumsal eğitim seçeneklerini değerlendirebilirsiniz.

Açık kaynak LLM'i teoride anlamak kolaydır; asıl zorluk, üretimde çalışan sağlam bir sistem kurmaktır. Deneyimli bir gözle bakıldığında, başarısız açık kaynak LLM projeleri benzer hatalarla tökezler. En yaygınları şunlardır:

• Yalnızca benchmark skoruna göre seçmek: Bir modeli genel benchmark sıralamasına bakıp seçmek, sizin görevinizde ve Türkçe verinizde hayal kırıklığı yaratabilir. Karar, kendi değerlendirme kümenizle verilmelidir.
• Lisansı okumamak: Bir modeli lisansını dikkatlice okumadan ticari ürüne gömmek, ciddi hukuki risk doğurur. "Açık" kelimesine güvenmek yeterli değildir; güncel lisans metni esastır.
• Gereğinden büyük model seçmek: "Ne kadar büyük o kadar iyi" yanılgısıyla devasa bir model seçmek, maliyeti ve gecikmeyi gereksiz yere artırır. Göreve yeten en küçük model çoğu zaman doğru seçimdir.
• Türkçe performansını varsaymak: "Model çok dilli, Türkçede de iyidir" varsayımı sık yapılan bir hatadır. Türkçe performansı ölçülmeden bilinemez.
• Barındırma sorumluluğunu hafife almak: Açık kaynak LLM'i çalıştırmak GPU, ölçekleme, güvenlik ve bakım yükü getirir; bu sorumluluğu taşıyacak ekip yoksa teorik avantajlar maliyete dönüşür.
• Değerlendirmeyi atlamak: Modeli üretime alıp "iyi çalışıyor" varsaymak, kalitenin sessizce bozulmasına yol açar. Sürekli değerlendirme şarttır.
• KVKK'yı sonradan düşünmek: Erişim kontrolü, loglama ve veri temizliğini baştan tasarlamamak, geriye dönük düzeltmesi zor uyum açıkları yaratır.

Bu hatalardan kaçınmanın en pratik yolu, dar bir kapsamla başlayıp ölçerek büyümektir. Tüm kurumu birden dönüştürmeye çalışmak yerine, tek bir dar görevle (örneğin tek bir departmanın bir iş akışı) başlamak, riski düşürür ve öğrenmeyi hızlandırır. Küçük ve sağlam bir başlangıç, büyük ve belirsiz bir vaatten her zaman daha değerlidir.

Tüm bu kriterleri bir araya getirdiğimizde, açık kaynak LLM seçimi için pratik bir karar çerçevesi ortaya çıkar. Bu çerçeve kesin bir reçete değildir — çünkü modeller ve lisanslar hızla değişir — ama düşünme sürecinizi yapılandıran güvenilir bir pusuladır. Önce önceliğinizi belirleyin, sonra o önceliğe en uygun aileyi aday listenizin başına koyun ve mutlaka kendi verinizle doğrulayın.

Eğer önceliğiniz ekosistem olgunluğu, geniş araç uyumu ve hazır türev bolluğuysa, Llama güçlü bir başlangıç varsayılanıdır; ancak lisans kısıtlarını ve Türkçe performansını mutlaka doğrulayın. Eğer önceliğiniz çok dillilik, geniş boyut esnekliği veya kod/matematik yeteneğiyse, Qwen öne çıkar; izinli lisans eğilimi de kurumsal kullanımı kolaylaştırır. Eğer önceliğiniz verimlilik, düşük çıkarım maliyeti veya Avrupa veri bağlamıysa, Mistral güçlü bir adaydır; ama modelin lisans tipini ayrıca kontrol edin. Eğer önceliğiniz akıl yürütme gücü ve maliyet verimliliğiyse, DeepSeek dikkate değer; jeopolitik/uyum boyutunu ek bir değerlendirme olarak ekleyin.

Karar çerçevesi: önceliğe göre başlangıç adayı (illüstratif — kendi verinizle doğrulayın)

Önceliğiniz	Başlangıç adayı	Ek kontrol
Ekosistem + araç olgunluğu	Llama	Lisans kısıtı + Türkçe testi
Çok dillilik + boyut esnekliği	Qwen	Spesifik sürüm lisansı
Verimlilik + Avrupa bağlamı	Mistral	Açık mı araştırma lisansı mı
Akıl yürütme + maliyet	DeepSeek	Jeopolitik/uyum değerlendirmesi
Maksimum veri egemenliği	İzinli lisanslı + on-prem	KVKK mimarisi + erişim kontrolü

Bu çerçevenin en önemli mesajı şudur: aday listesini daraltmak için bu pusulayı kullanın, ama nihai kararı asla bu tabloya dayandırmayın. Her senaryoda en az iki aday seçip onları kendi Türkçe değerlendirme kümenizle, kendi maliyet hesabınızla ve kendi barındırma kısıtınızla karşılaştırın. Doğru açık kaynak LLM, "en popüler" olan değil, sizin altı kriterinizin toplamında en yüksek puanı alan modeldir.

Ayrıca bu bir defalık bir karar değildir. Açık kaynak LLM ekosistemi hızla evrilir; bugün öne çıkan bir aile, altı ay sonra farklı bir dengeye oturabilir. Bu yüzden bileşenlerinizi gevşek bağlı (loosely coupled) tutmak — yani modeli değiştirmeyi kolaylaştıran bir mimari kurmak — stratejik bir avantajdır. Modeli değil, mimariyi ve değerlendirme disiplinini kalıcı kılın; ekosistem değişse bile sisteminiz ayakta kalır.

Açık kaynak LLM'i tek başına bir "sohbet motoru" gibi düşünmek eksik bir bakıştır; asıl değeri, onu daha büyük bir mimarinin parçası olarak kullandığınızda ortaya çıkar. En yaygın birleşim RAG'dir: açık kaynak LLM'i, kuruma özel güncel bilgiyi getiren bir getirme katmanıyla birleştirmek. Bu birleşimde model, eğitim verisiyle sınırlı kalmaz; kurumun belgelerinden getirilen bilgiye dayanarak, kaynak göstererek yanıt üretir. RAG'in ne olduğunu RAG nedir yazısında ele alıyoruz.

Bu birleşimin Türkiye açısından kritik bir avantajı vardır: hem model hem de bilgi kurumun içinde kalır. Bir açık kaynak LLM'i kendi altyapınızda çalıştırıp, onu yine kurum içindeki belgelerle besleyen bir RAG sistemiyle birleştirdiğinizde, uçtan uca veri egemenliği elde edersiniz. Ne istem, ne belge, ne de yanıt kurumun sınırlarından çıkar. Bu, KVKK açısından en güvenli mimarilerden biridir ve açık kaynak LLM'in veri egemenliği kozunu RAG'in bilgi erişim gücüyle birleştirir. Kurumsal bir RAG sistemi tasarlamak için kurumsal RAG sistemleri çözümümüze bakabilirsiniz.

İleri senaryolarda açık kaynak LLM, ajan (agent) mimarilerinin de motoru olabilir. Bir yapay zeka ajanı, yalnızca yanıt üretmekle kalmaz; araç çağırır, çok adımlı görevleri planlar ve yürütür. Ajan mimarilerinin temelini AI agent nedir ve agentic AI nedir yazılarında ele alıyoruz. Açık kaynak bir modeli bir ajan çerçevesinin motoru yapmak, hem maliyeti kontrol altında tutmayı hem de hassas iş akışlarını kurum içinde tutmayı sağlar — özellikle ajanın eriştiği veri hassassa, bu birleşim büyük değer taşır.

Bu birleşimlerin ortak dersi şudur: açık kaynak LLM bir bileşendir, bir çözüm değil. Gerçek kurumsal değer, doğru modeli seçmekten çok, onu RAG, ajan mimarisi, erişim kontrolü ve değerlendirme gibi katmanlarla doğru biçimde birleştirmekten gelir. Model seçimi bu resmin önemli ama tek parçasıdır; başarı, tüm mimariyi dengeli kurmaktan doğar. Tüm bu kavramları derinleştirmek için öğrenme merkezi iyi bir başlangıç noktasıdır.

Pratik bir çıkarım da şudur: bir açık kaynak LLM'i tek başına değerlendirmeyin, onu içine yerleşeceği mimariyle birlikte düşünün. Aynı model, kötü kurgulanmış bir RAG hattında zayıf, iyi kurgulanmış bir hatta mükemmel sonuç verebilir. Bu yüzden "hangi model?" sorusunu "hangi model, hangi mimaride, hangi görev için?" sorusuna dönüştürmek, açık kaynak LLM kararını olgunlaştırmanın en pratik yoludur. Modeli, RAG'i, güvenliği ve değerlendirmeyi birlikte tasarlayan ekipler, tek bir bileşene odaklananlardan istikrarlı biçimde daha iyi sonuç alır.

Açık kaynak LLM nedir ve kapalı modelden farkı nedir?

Açık kaynak LLM, model ağırlıklarının (parametrelerinin) kamuya açık bir lisansla yayımlandığı ve kurumun bu modeli indirip kendi altyapısında çalıştırabildiği, ince ayar yapabildiği büyük dil modelidir. Kapalı model ise yalnızca sağlayıcının sunduğu API üzerinden erişilir; ağırlıklara ulaşamaz, modeli kendi sunucunuzda çalıştıramazsınız. Temel fark kontroldür: açık kaynak LLM ile veri, dağıtım ve özelleştirme sizin elinizdedir; kapalı modelde bunlar sağlayıcının kontrolündedir. Bu yüzden veri egemenliği, KVKK uyumu veya derin özelleştirme öncelikliyse açık kaynak, hız ve en üst düzey genel performans öncelikliyse kapalı model öne çıkar.

Llama, Qwen, Mistral ve DeepSeek arasında hangisi en iyisi?

Tek bir "en iyi" yoktur; her aile farklı senaryoda öne çıkar. Llama geniş ekosistemi, araç desteği ve topluluğuyla güvenli bir varsayılandır. Qwen güçlü çok dillilik, geniş boyut yelpazesi ve kodlama/matematik yeteneğiyle dikkat çeker. Mistral verimliliği, küçük-güçlü modelleri ve Avrupa merkezli konumuyla öne çıkar. DeepSeek ise akıl yürütme odaklı modelleri ve maliyet verimliliğiyle bilinir. Doğru seçim, sizin görevinize, dilinize, model boyutu kısıtınıza, lisans gereksiniminize ve barındırma bütçenize bağlıdır. Karar, benchmark tablosuna değil, kendi verinizle yaptığınız değerlendirmeye dayanmalıdır.

Açık kaynak LLM ticari projede kullanılabilir mi?

Çoğu zaman evet, ama lisansa bağlıdır ve bu ayrıntı kritiktir. Mistral ve Qwen'in birçok modeli Apache 2.0, DeepSeek'in birçok modeli MIT gibi izinli lisanslarla gelir; bunlar ticari kullanıma büyük ölçüde açıktır. Llama ise OSI onaylı klasik anlamda "açık kaynak" değil, kendi topluluk lisansıyla gelir ve belirli kısıtlar içerebilir. Bu yüzden "açık" kelimesine güvenip geçmeyin; kullanacağınız her modelin güncel lisans metnini, özellikle ticari kullanım, yeniden dağıtım ve türev model şartlarını, hukuk biriminizle birlikte okuyun. Lisanslar sürüm sürüm değişebilir.

Açık kaynak LLM Türkçede iyi çalışır mı?

Değişir ve bunu ancak ölçerek bilebilirsiniz. Bu ailelerin çoğu çok dillidir ve Türkçeyi bir ölçüde destekler; ancak Türkçe performansı model, sürüm ve boyuta göre belirgin biçimde farklılaşır. Bazı modeller İngilizcede güçlü olsa da Türkçede dilbilgisi, ton ve nüans hataları yapabilir. En doğru yaklaşım, kendi görevinizden alınmış Türkçe örneklerle küçük bir değerlendirme kümesi hazırlayıp iki-üç aday modeli aynı sorularla karşılaştırmaktır. Genel popülariteye değil, sizin Türkçe verinizdeki somut performansa güvenin.

Açık kaynak LLM çalıştırmak için nasıl bir donanım gerekir?

Model boyutuna bağlıdır. Birkaç milyar parametreli küçük modeller tek bir kurumsal GPU'da, hatta bazıları güçlü bir iş istasyonunda çalışabilir; onlarca milyar parametreli orta modeller bir veya birkaç GPU ister; çok büyük modeller ise ciddi GPU kümeleri gerektirir. Maliyeti kontrol etmenin en pratik yolu, göreve yeten en küçük modeli seçmek, nicemleme (quantization) gibi tekniklerle bellek ayak izini düşürmek ve tam ince ayar yerine LoRA gibi verimli yöntemleri kullanmaktır. Yerel deneme için Ollama gibi araçlar, üretim için ise ölçeklenebilir servis altyapısı düşünülmelidir.

Açık kaynak LLM mi yoksa RAG mi, hangisini önce kurmalıyım?

Bu ikisi rakip değildir; birlikte kullanılır. RAG, modele dışarıdan güncel ve kuruma özel bilgi ekleyen bir mimaridir; açık kaynak LLM ise o mimarinin üretme katmanında çalışabilecek modeldir. Çoğu kurumsal senaryoda önce RAG kurulur, çünkü bilgi eksikliğini gidermenin en hızlı yolu odur; model olarak da bir açık kaynak LLM seçilirse veri kurumun içinde kalır ve KVKK uyumu kolaylaşır. İnce ayar ise davranış veya üslup gerektiğinde devreye girer. Yani sıralama genellikle şöyledir: önce net bir görev, sonra RAG, gerekiyorsa ince ayar.

Açık kaynak LLM kapalı modelden daha mı ucuzdur?

Duruma göre. Açık kaynak LLM'de model lisansı çoğunlukla ücretsizdir, ama barındırma, GPU, ölçekleme, bakım ve uzman iş gücü maliyeti size aittir. Kapalı modelde ise kullanım başına (token başına) ödersiniz; kurulum yükü yoktur ama hacim büyüdükçe fatura artar ve kontrol sizde olmaz. Genel kural: düşük ve değişken hacimde kapalı model API'si genellikle daha ekonomik başlar; yüksek ve öngörülebilir hacimde, veya veri egemenliği zorunluysa, kendi altyapısında çalışan açık kaynak LLM toplam sahip olma maliyetinde öne geçebilir. Doğru cevap, gerçek kullanım hacminizle yapılan bir hesapla bulunur.

MoE (uzman karışımı) modeller açık kaynak LLM seçimini nasıl etkiler?

Bazı modern açık kaynak LLM'ler (örneğin bazı Qwen, Mistral ve DeepSeek sürümleri) MoE (Mixture of Experts, uzman karışımı) mimarisi kullanır: modelin toplam parametresi çok büyüktür ama her sorguda yalnızca bir alt kümesi (birkaç "uzman") etkinleşir. Bunun pratik anlamı, çok büyük bir modelin kalitesine daha düşük çıkarım maliyetiyle yaklaşabilmenizdir. Ancak MoE modeller daha fazla bellek ister (tüm parametreler yüklenmelidir) ve dağıtımı biraz daha karmaşıktır. Seçim yaparken "toplam parametre" ile "aktif parametre" sayısını ayırt edin; bellek planlaması toplam parametreye, hız ve maliyet ise aktif parametreye daha yakından bağlıdır.

Özetle, açık kaynak LLM karşılaştırmasının en önemli mesajı şudur: tek bir "en iyi" model yoktur; doğru model seçimi göreve, dile, boyuta, lisansa, maliyete ve barındırmaya göre değişir. Llama geniş ekosistemiyle güvenli bir varsayılan, Qwen güçlü çok dilliliği ve boyut esnekliğiyle, Mistral verimliliği ve Avrupa bağlamıyla, DeepSeek ise akıl yürütme gücü ve maliyet verimliliğiyle öne çıkar. Her aile bir sürümden diğerine değişir; bu yüzden benchmark tabloları yalnızca bir başlangıçtır, gerçek karar kendi göreviniz ve Türkçe verinizle yapılan değerlendirmeyle verilir.

Son bir hatırlatma: açık kaynak LLM ile kapalı model bir "ya o ya bu" seçimi değildir. Olgun kurumlar çoğu zaman ikisini birlikte kullanır — hassas ve yüksek hacimli iş yüklerini kendi altyapısındaki bir açık kaynak LLM ile, deneysel veya en üst düzey genel yetenek gerektiren işleri bir kapalı API ile yürütür. Önemli olan, kararı ideolojiyle değil, kurumunuzun somut önceliğiyle vermektir: mahremiyet mi, hız mı, maliyet mi, kontrol mü? Bu soruyu netleştirdiğinizde, hem Llama, Qwen, Mistral ve DeepSeek arasındaki seçim hem de açık kaynak ile kapalı model arasındaki tercih kendiliğinden berraklaşır. Doğru model seçimi bir moda takip etmek değil, bilinçli bir mühendislik kararıdır ve bu karar her zaman kendi verinizle doğrulanmalıdır.

Türkiye bağlamında açık kaynak LLM'in en güçlü kozu veri egemenliği ve KVKK uyumudur: modeli kendi altyapınızda çalıştırdığınızda veri kurumun sınırları içinde kalır. Ancak bu avantaj, ancak baştan doğru tasarlanmış bir mimariyle — erişim kontrolü, loglama, ince ayar ve değerlendirme disipliniyle — gerçeğe dönüşür. Lisansı hukuk biriminizle okuyun, göreve yeten en küçük modeli seçin, kendi verinizle test edin ve mimarinizi model değiştirmeyi kolaylaştıracak biçimde gevşek bağlı kurun. Temel kavramlar için LLM nedir, açık kaynak LLM nedir ve RAG nedir yazılarına bakabilir; kurumunuza özel bir açık kaynak LLM stratejisi ve pilot tasarlamak için yapay zeka danışmanlığı ile başlayabilir, ekipleriniz için kurumsal eğitim seçeneklerini değerlendirebilir ve tüm kavramları öğrenme merkezi üzerinden derinleştirebilirsiniz.