# GPU Nedir? Kurumsal AI'da Neden Gerekir? > Source: https://sukruyusufkaya.com/blog/gpu-nedir-kurumsal-ai > Updated: 2026-08-24T00:22:13.274Z > Type: blog > Category: yapay-zeka **TLDR:** GPU nedir? GPU, binlerce çekirdeğiyle paralel hesaplama yapan ve yapay zeka donanımının kalbini oluşturan işlemcidir. VRAM, CPU GPU farkı ve çıkarım eğitim farkı bu rehberde. GPU nedir? GPU (Graphics Processing Unit, Türkçesiyle grafik işlem birimi), binlerce küçük çekirdeği aynı anda çalıştırarak büyük matris ve vektör işlemlerini paralel yapan bir işlemcidir. Yapay zeka modelleri milyonlarca-milyarlarca çarpma-toplama işlemini aynı anda gerektirdiği için, bu işi seri çalışan CPU yerine paralel çalışan GPU çok daha hızlı yapar; GPU bu yüzden yapay zeka donanımının kalbidir. Kurumsal yapay zekaya adım atan her yönetici, teknik ekip ve karar alıcı er ya da geç aynı duvara toslar: "Bu iş neden bu kadar pahalı bir donanım istiyor?" Cevabın merkezinde GPU vardır. GPU'yu anlamadan verilen bir yapay zeka donanımı kararı, ya gereksiz yere pahalı ya da işi görmeyecek kadar yetersiz bir sistemle sonuçlanır; bu yüzden gpu nedir sorusu, teknik bir merak değil, doğrudan bütçeyi ve projenin başarısını belirleyen stratejik bir konudur. Bu rehberde gpu nedir, neden gerekli, CPU'dan farkı nedir, VRAM neden her şeyin başında gelir, model boyutu ile bellek ihtiyacı nasıl ilişkilidir, kuantizasyon maliyeti nasıl düşürür, eğitim ile çıkarım ihtiyacı nasıl farklılaşır, çoklu-GPU ne zaman gerekir, kiralamak mı satın almak mı daha mantıklıdır ve kurumsal GPU kararı nasıl verilir sorularını bir danışman titizliğiyle, abartısız ve uygulanabilir biçimde ele alıyoruz. ## GPU Nedir? Kısa ve Net Tanım Gpu nedir sorusunun en yalın cevabı şudur: aynı işlemi çok sayıda veri üzerinde aynı anda yapmak için tasarlanmış, binlerce çekirdekli bir paralel işlemci. "Graphics" (grafik) kelimesi tarihsel kökenine işaret eder — GPU'lar başlangıçta ekrandaki milyonlarca pikseli aynı anda hesaplamak için üretilmişti. Ama bu piksel hesaplama işi ile yapay zekanın matris çarpma işi matematiksel olarak aynı türdendir: her ikisi de "çok sayıda basit işlemi aynı anda yapmak" ister. İşte bu benzerlik, grafik kartını yapay zekanın motoru haline getirdi. Bir benzetme yardımcı olur. CPU, dört-beş çok yetenekli ustanın çalıştığı bir atölye gibidir; her usta karmaşık ve farklı işleri sırayla, ustalıkla halleder. GPU ise binlerce vasıflı işçinin aynı basit hareketi aynı anda tekrarladığı bir montaj hattı gibidir. Tek bir karmaşık işi CPU'nun bir ustası daha hızlı bitirir; ama aynı basit işlemi bir milyon kez yapmak gerekiyorsa, GPU'nun binlerce işçisi CPU'yu ezici biçimde geçer. Yapay zeka tam olarak bu ikinci türden bir iştir: aynı matris çarpımını devasa veri üzerinde milyonlarca kez tekrarlamak. Bu mimari fark kritik bir sonuç doğurur: GPU, "genel amaçlı hızlı" değil, "belirli bir iş türünde çok hızlı" bir cihazdır. Bir web sunucusu, bir veritabanı sorgusu veya bir Excel makrosu GPU'da hızlanmaz; ama bir sinir ağının eğitimi veya bir dil modelinin yanıt üretmesi GPU'da kat kat hızlanır. Bu yüzden GPU'yu "daha iyi bilgisayar" değil, "yapay zeka iş yükü için özelleşmiş hızlandırıcı" olarak düşünmek doğrudur. Kurumsal AI altyapısının nasıl kurulduğunu on-premise ve egemen AI altyapısı yazısında ayrıntılı ele alıyoruz. ## GPU ile CPU Arasındaki Fark Nedir? (CPU GPU Farkı) Cpu gpu farkı, gpu nedir sorusunu gerçekten anlamak için mutlaka kavranması gereken konudur. İkisi de işlemcidir, ikisi de hesap yapar; ama tasarım felsefeleri birbirinin neredeyse zıddıdır ve bu zıtlık, hangisinin hangi işe uygun olduğunu belirler. CPU (Central Processing Unit, merkezi işlem birimi), az sayıda ama çok güçlü çekirdek etrafında tasarlanır. Bir masaüstü CPU'sunda tipik olarak birkaç ila birkaç düzine çekirdek bulunur; her çekirdek yüksek saat hızında çalışır, karmaşık mantık dallanmalarını (if-else zincirleri, öngörülemeyen sıçramalar) verimli yönetir ve tek bir işi mümkün olduğunca çabuk, düşük gecikmeyle bitirmek için optimize edilmiştir. CPU, "bir işi çabuk bitir" makinesidir; işletim sistemini yönetmek, veri hazırlamak, mantık yürütmek onun alanıdır. GPU ise binlerce basit çekirdek etrafında tasarlanır. Bu çekirdeklerin her biri tek başına CPU çekirdeği kadar akıllı değildir; ama binlercesi aynı anda, aynı işlemi farklı veri parçaları üzerinde yapar. Buna "tek komut, çok veri" (SIMD) yaklaşımı denir. GPU, "çok işi aynı anda yap" makinesidir; büyük veri üzerinde tekrarlı matematik onun alanıdır. Yapay zekanın temelindeki matris çarpımı da tam olarak budur — bu yüzden çıkarım eğitim farkı gözetmeksizin, her iki AI iş yükü de GPU'ya yaslanır. Bu tablodan çıkarılacak temel ders şudur: CPU ve GPU rakip değil, tamamlayıcıdır. Bir yapay zeka sisteminde CPU veriyi okur, temizler, hazırlar ve GPU'ya besler; GPU ağır matematiği yapar; sonuç tekrar CPU'ya döner. GPU'yu boş bekletmemek için CPU'nun onu yeterince hızlı beslemesi gerekir — pratikte "GPU aç kaldı" (GPU starvation) sorunu, yavaş veri hattı yüzünden pahalı GPU'nun boş beklemesi anlamına gelir ve kurumsal projelerde sık görülen bir israftır. Yani doğru yapay zeka donanımı, güçlü bir GPU kadar onu besleyecek dengeli bir CPU, hızlı depolama ve yeterli sistem belleği de ister. ## GPU'da Bellek (VRAM) Neden Belirleyici? Kurumsal AI'da en sık yapılan hata, GPU'yu yalnızca "hız" ile düşünmektir. Oysa pratikte bir GPU'nun bir işi yapıp yapamayacağını belirleyen ilk faktör hız değil, bellektir: VRAM. VRAM (Video RAM), GPU'nun kendi üzerindeki, çekirdeklere çok yakın ve çok hızlı bellektir. Bir modelin o GPU'da çalışabilmesi için, model ve çalışması sırasında ürettiği tüm ara verilerin bu belleğe sığması gerekir. Neden bu kadar kritik? Çünkü GPU çekirdekleri ancak VRAM'deki veriyle çalışabilir. Eğer bir model VRAM'e sığmıyorsa iki kötü şey olur: ya sistem doğrudan "yetersiz bellek" hatası verip hiç çalışmaz, ya da veriyi çok daha yavaş olan sistem RAM'ine veya diske taşımaya çalışır ve performans dramatik biçimde çöker — GPU'nun binlerce çekirdeği, veriyi bekleyerek boş kalır. Bu yüzden kurumsal AI'da "hangi GPU" sorusundan önce her zaman "ne kadar VRAM" sorusu gelir. Yeterli VRAM'i olmayan pahalı bir GPU, sığmayan bir model için işe yaramaz; yeterli VRAM'i olan mütevazı bir GPU ise işi görür. VRAM'e üç şey yerleşmek zorundadır. Birincisi model ağırlıkları: modelin öğrendiği milyarlarca sayı. İkincisi ara aktivasyonlar: model çalışırken katmanlar arasında akan geçici değerler. Üçüncüsü ise özellikle dil modellerinde çıkarım sırasında büyüyen KV önbelleği (key-value cache): model uzun bir metin ürettikçe, önceki tokenların hesaplarını saklayan bu önbellek sürekli şişer. Uzun bağlamlı çalışan bir dil modelinde KV önbelleği, model ağırlıklarından bile fazla yer kaplayabilir; bu, uzun sohbetlerde belleğin neden dolduğunu açıklar. Kurumsal GPU seçiminde en pahalı yanılgı, kıyaslamalardaki (benchmark) çiğ hız sayılarına bakıp VRAM'i ikinci plana atmaktır. Bir model VRAM'e sığmıyorsa, GPU'nun ne kadar hızlı olduğunun önemi kalmaz — çünkü model hiç çalışmaz ya da sürünür. Doğru sıralama şudur: (1) Çalıştıracağın modelin bellek ihtiyacını hesapla, (2) o ihtiyacı rahatça karşılayan VRAM'e sahip GPU'ları listele, (3) ancak bundan sonra hız ve maliyeti karşılaştır. Belleği yok sayan bir seçim, kâğıt üstünde güçlü ama pratikte çalışmayan bir sistemle sonuçlanır. VRAM aynı zamanda GPU'ları birbirinden ayıran en belirgin fiyat kalemidir. Tüketici sınıfı bir grafik kartı ile veri merkezi sınıfı bir GPU arasındaki fiyat farkının büyük kısmı, çekirdek sayısından çok VRAM miktarı ve VRAM bant genişliğinden gelir. Kurumsal AI için üretilmiş GPU'lar, tam da büyük modelleri sığdırabilmek için yüksek VRAM'e sahip olacak şekilde tasarlanır. Bu yüzden yapay zeka donanımı bütçesi planlanırken, VRAM neredeyse her zaman belirleyici parametredir. ## Model Boyutu ile VRAM İhtiyacı Arasındaki İlişki Nedir? VRAM'in neden belirleyici olduğunu anladıktan sonra pratik soru gelir: belirli bir model ne kadar VRAM ister? İyi haber, bunun kaba bir hesabı vardır ve bu hesap gpu nedir sorusunu somut bir bütçe kararına dönüştürür. İlişki neredeyse doğrusaldır: bir modelin bellek ihtiyacı, parametre sayısı ile her parametrenin kapladığı bayt sayısının çarpımıdır. Her parametrenin kaç bayt kapladığı, kullanılan sayı hassasiyetine (veri tipine) bağlıdır. Tam hassasiyette (FP32) her parametre 4 bayt, yarım hassasiyette (FP16 veya BF16) 2 bayt yer kaplar. Kurumsal çıkarımda çoğunlukla yarım hassasiyet kullanılır. Buradan basit bir kural çıkar: FP16'da bir modelin her milyar parametresi kabaca 2 GB VRAM ister. Yani 7 milyar parametreli bir model yaklaşık 14 GB, 13 milyar parametreli bir model ~26 GB, 70 milyar parametreli büyük bir model ise ~140 GB yalnızca ağırlıklar için bellek ister. Ama iş burada bitmez. Bu ağırlık belleğinin üzerine, çalışma sırasında gereken ek bellek eklenir: çıkarımda KV önbelleği ve çalışma alanı, eğitimde ise çok daha fazlası. Bu yüzden pratikte "modelin ham boyutu kadar VRAM yeter" demek yanıltıcıdır; gerçekçi bir tampon (buffer) eklemek gerekir. Kaba bir çalışma kuralı olarak, çıkarım için modelin ham ağırlık boyutunun üzerine %20-40 pay bırakmak makuldür; uzun bağlam ve yüksek eşzamanlılık bu payı daha da büyütür. Bu hesap, kurumsal AI donanım kararının temelidir. "Şu modeli çalıştırmak istiyoruz" cümlesi, doğrudan bir VRAM sayısına ve oradan bir GPU sınıfına çevrilebilir. Deneyimli bir mühendis, model boyutunu duyduğunda hangi GPU'nun gerekeceğini kabaca söyleyebilir — çünkü bu ilişki öngörülebilirdir. Ölçekli üretimde ve maliyet optimizasyonunda bu hesabın nasıl kullanıldığını LLM maliyet optimizasyonu yazısında derinleştiriyoruz. ## Kuantizasyon VRAM İhtiyacını Nasıl Düşürür? Model boyutu ile VRAM ihtiyacı arasındaki ilişki, önemli bir kaldıraca işaret eder: eğer her parametrenin kapladığı bayt sayısını düşürebilirsek, VRAM ihtiyacını da düşürürüz. Kuantizasyon (quantization, nicemleme) tam olarak bunu yapar: modelin ağırlıklarını daha az bit kullanan sayı tiplerinde temsil ederek bellek ihtiyacını ve hesap yükünü azaltır. Bu, gpu nedir sorusunun pratik cevabında maliyeti belirleyen en güçlü tekniklerden biridir. Mantığı şudur. Bir model ağırlıklarını FP16 (parametre başına 2 bayt) yerine INT8 (1 bayt) ile temsil ederse bellek ihtiyacı yarıya, INT4 (~0,5 bayt) ile temsil ederse dörtte bire iner. Somut örnek: FP16'da ~14 GB isteyen 7 milyar parametreli bir model, INT8'de ~7 GB, INT4'te ~3,5 GB'a düşer. Bu, FP16'da yalnızca pahalı bir veri merkezi GPU'suna sığan bir modelin, kuantize edildiğinde çok daha uygun fiyatlı bir GPU'ya — hatta bazı durumlarda tüketici sınıfı bir karta — sığması demektir. Bedeli nedir? Kuantizasyon, sayıları daha az bitle temsil ettiği için küçük bir doğruluk kaybı getirir; model çıktısı çok az bozulabilir. Ancak modern kuantizasyon yöntemleri bu kaybı çoğu pratik senaryoda fark edilmeyecek kadar küçük tutar; özellikle INT8 seviyesinde kayıp çoğu iş için ihmal edilebilir, INT4 seviyesinde ise daha dikkatli değerlendirme gerekir. Bu yüzden kuantizasyon, "bedava öğle yemeği" değil, ama çoğu kurumsal senaryoda oldukça avantajlı bir takas sunar: küçük bir doğruluk ödünüyle büyük bir maliyet ve bellek kazancı. Pratik öneri, üretim öncesi kendi göreviniz için bir doğruluk testi çalıştırıp, kabul edilebilir doğruluğu koruyan en düşük hassasiyeti seçmektir. Kuantizasyon, kurumsal AI'da "aynı işi daha ucuz donanımda yapma" sorusunun en doğrudan cevabıdır ve VRAM kısıtı altında çalışan hemen her ekip için değerlendirilmesi gereken ilk seçenektir. Sahada bu kararların nasıl alındığını on-premise kurulumlarda karşılaştığım gerçekler saha notunda paylaşıyoruz. ## Eğitim ve Çıkarım için GPU İhtiyacı Nasıl Farklılaşır? Gpu nedir sorusunun kurumsal karşılığında en çok karıştırılan konu, "GPU'ya ne için ihtiyacım var" sorusudur. Çünkü yapay zekada GPU iki tamamen farklı iş için kullanılır ve bu iki işin donanım ihtiyacı belirgin biçimde ayrışır. Bu çıkarım eğitim farkı, doğru GPU kararını verebilmek için mutlaka anlaşılmalıdır. Eğitim (training), bir modelin sıfırdan veya bir temel modelden yola çıkarak öğrenmesidir. Bu süreçte model, milyonlarca örneği tekrar tekrar görür, her seferinde tahmin yapar, hatasını ölçer ve ağırlıklarını güncellemek için geriye doğru hesap (backpropagation) yapar. Bu geriye hesap, ileriye göre çok daha fazla bellek ve işlem ister: modelin yalnızca ağırlıkları değil, her ağırlığın gradyanı ve optimizer durumları da bellekte tutulur. Sonuç olarak eğitim, çıkarımın birkaç katı VRAM ister, genellikle çoklu-GPU gerektirir, günlerce hatta haftalarca kesintisiz sürer ve en üst düzey donanımı zorlar. Çıkarım (inference), eğitilmiş bir modelin canlıda kullanılmasıdır: kullanıcı soru sorar, model yanıt üretir. Burada geriye hesap yoktur; yalnızca ileri geçiş vardır. Bu yüzden çıkarım, eğitime kıyasla çok daha az bellek ve işlem ister; çoğu model tek bir GPU'ya sığar. Ancak çıkarımın kendine özgü zorlukları vardır: sürekli çalışır (7/24 canlıdır), kullanıcı sayısına göre ölçeklenir ve iki ayrı metrikle ölçülür — gecikme (bir yanıtın ne kadar çabuk başladığı) ve verim (throughput, birim zamanda kaç isteğin karşılandığı). Yani eğitim "bir kez ama çok ağır", çıkarım "hafif ama sürekli ve ölçekli" bir yüktür. Bu ayrımın pratik sonucu şudur: çoğu kurum, aslında sıfırdan model eğitmez. Kurumsal yapay zeka projelerinin büyük çoğunluğu, hazır bir temel modeli alıp çıkarımda kullanmak veya küçük bir uyarlama (fine-tuning) yapmak üzerine kuruludur. Bu, donanım ihtiyacını dramatik biçimde düşürür: eğer sıfırdan büyük model eğitmiyorsanız, en pahalı ve en büyük GPU kümelerine ihtiyacınız yoktur. Bu çıkarım eğitim farkını doğru okumak, birçok kurumu gereksiz yere devasa donanım almaktan kurtarır. GPU kararınızı, gerçekte yapacağınız işin eğitim mi yoksa çıkarım mı ağırlıklı olduğuna göre şekillendirmek, bütçe israfını önlemenin en etkili yoludur. ## Çoklu-GPU Ne Zaman Gerekir? Tek bir GPU'ya sığmayan işler için çözüm, işi birden fazla GPU'ya dağıtmaktır. Ama çoklu-GPU kurmak "iki kart tak, iki katı hız al" kadar basit değildir; ne zaman gerektiğini ve nasıl çalıştığını anlamak, gpu nedir sorusunun ileri düzey bir parçasıdır. Çoklu-GPU'ya iki temel nedenle başvurulur: bellek ve hız. Birincisi bellek nedeniyledir. Bir model tek GPU'nun VRAM'ine sığmayacak kadar büyükse (örneğin 70 milyar parametreli bir model FP16'da ~140 GB ister), model birden fazla GPU'ya bölünmek zorundadır. Buna model paralelliği denir: modelin farklı katmanları veya parçaları farklı GPU'lara yerleştirilir ve GPU'lar birbiriyle sürekli haberleşerek tek bir modelmiş gibi çalışır. Burada kritik olan GPU'lar arası bağlantı hızıdır; GPU'lar birbirine ne kadar hızlı veri aktarabilirse, bölünmüş model o kadar verimli çalışır. Yavaş bir bağlantı, çoklu-GPU'nun tüm avantajını yer. İkincisi hız nedeniyledir. Model tek GPU'ya sığsa bile, eğitim çok uzun sürüyorsa veya çıkarım yükü tek GPU'nun kapasitesini aşıyorsa, iş birden fazla GPU'ya dağıtılarak hızlandırılır. Eğitimde buna veri paralelliği denir: aynı model her GPU'da kopyalanır, veri parçalara bölünüp GPU'lara dağıtılır ve sonuçlar birleştirilir. Çıkarımda ise yükü dağıtmak için birden fazla GPU'ya birer model kopyası konur ve gelen istekler bunlara paylaştırılır. Yaygın bir yanılgı, "iki GPU iki kat, dört GPU dört kat hız" beklemektir. Gerçekte, GPU'lar birbiriyle haberleşmek için zaman harcadığından hızlanma her zaman doğrusalın altındadır; GPU sayısı arttıkça bu haberleşme yükü büyür ve verim düşer. Bu yüzden çoklu-GPU, "mecbur kalınca" başvurulan bir çözümdür — önce tek GPU'da kuantizasyon ve optimizasyonla sığdırmayı denemek, ancak sonra çoklu-GPU'ya geçmek daha ekonomiktir. Ölçek büyüdükçe GPU-arası bağlantı mimarisi (topoloji), toplam performansın belirleyicisi haline gelir. Kurumsal bağlamda çoklu-GPU kararı, çoğu zaman "sıfırdan büyük model eğitiyor muyum" sorusuyla iç içedir. Eğer yalnızca hazır modelleri çıkarımda kullanıyorsanız, tek güçlü bir GPU çoğu senaryoda yeterlidir ve çoklu-GPU karmaşıklığından kaçınabilirsiniz. Çoklu-GPU altyapısı gerçekten gerektiğinde, bunun bir sistem tasarımı problemi olduğunu — yalnızca kart eklemek değil, ağ, güç, soğutma ve yazılım katmanını birlikte kurmak olduğunu — unutmamak gerekir. Bu altyapı kararlarını on-premise ve egemen AI altyapısı rehberinde bütünsel olarak ele alıyoruz. ## GPU Kiralama mı, Satın Alma mı? Kurumsal AI'da gpu nedir sorusunu ekonomik bir karara çeviren en pratik soru şudur: GPU'yu bulutta kiralamak mı, yoksa kendi veri merkezinize satın almak mı daha mantıklı? Doğru cevap "her zaman şu" değildir; kullanım profiline, yük desenine, veri egemenliği ihtiyacına ve finansal tercihe göre değişir. İkisinin de yeri vardır ve çoğu olgun kurum ikisini birlikte kullanır. Bulut GPU kiralama, esneklik ve düşük başlangıç maliyeti sunar. Kart almazsınız; saatlik veya kullanım bazlı ödersiniz. Bu, üç durumda özellikle güçlüdür: (1) Yük değişken veya öngörülemezse — pik dönemlerde ölçeği büyütür, düşük dönemde küçültürsünüz. (2) Projeler deneyselse — bir fikri denemek için milyonlarca liralık donanım almadan, birkaç saat GPU kiralayıp test edersiniz. (3) Sermayeyi bağlamak istemiyorsanız — donanım bir sermaye harcaması (CAPEX) yerine işletme gideri (OPEX) olur. Bulutun bedeli, uzun vadede ve sürekli yüksek kullanımda toplam maliyetin satın almayı geçebilmesidir; ayrıca verinin kurum dışına çıkması, bazı sektörlerde uyum sorunu yaratır. On-premise (yerinde) satın alma, sürekli ve yüksek yükte ekonomik olur ve veri egemenliği sağlar. Donanımı bir kez alırsınız; sonrasında maliyet elektrik, soğutma, bakım ve amortismandan ibarettir. Bu, üç durumda güçlüdür: (1) Yük sürekli ve yüksekse — 7/24 dolu çalışan bir GPU, kiralamaya kıyasla belli bir kullanım eşiğinden sonra kendini amorti eder. (2) Veri egemenliği/KVKK gereği veriler kurum dışına çıkamıyorsa — hassas veri kendi donanımınızda kalır. (3) Uzun vadeli, öngörülebilir bir ihtiyaç varsa. Bedeli ise yüksek başlangıç yatırımı, kapasite planlama riski (az alırsan yetmez, çok alırsan boş kalır) ve donanımı yönetme sorumluluğudur. Pratikte kazanan çoğu zaman hibrit yaklaşımdır. Kurumlar, deneyleri ve değişken pik yükü bulutta çalıştırıp, sürekli ve hassas üretim yükünü kendi donanımlarında tutar. Doğru karar bir his değil, bir toplam sahip olma maliyeti (TCO) hesabıyla verilir: beklenen kullanım süresi, kart ömrü, elektrik ve soğutma, bulut saatlik ücreti ve veri egemenliği kısıtları bir arada değerlendirilir. Kurumunuza özel bu hesabı çıkarmak için yapay zeka danışmanlığı kapsamında birlikte çalışabiliriz. ## Kurumsal AI'da GPU Maliyeti Nasıl Yönetilir? GPU, kurumsal AI bütçesinin en büyük tek kalemi olma eğilimindedir; bu yüzden gpu nedir sorusunun kurumsal karşılığı, aynı zamanda bir maliyet yönetimi sorusudur. İyi haber şudur: GPU maliyeti kaderin bir cilvesi değildir; doğru mimari kararlarla ciddi biçimde düşürülebilir. Deneyimli ekipler, aynı işi kat kat daha az donanımla yapmanın yollarını sistematik olarak arar. İlk kaldıraç doğru boyutlandırmadır. Birçok kurum, "ne olur ne olmaz" diyerek gereğinden büyük GPU alır veya ihtiyacından fazla model çalıştırır. Oysa görev için gereken en küçük yeterli modeli seçmek — çoğu kurumsal iş, devasa bir modelin yerine iyi seçilmiş orta boy bir modelle çözülür — hem VRAM hem maliyet baskısını dramatik düşürür. İkinci kaldıraç kuantizasyondur: daha önce anlattığımız gibi, hassasiyeti düşürmek modeli daha küçük ve ucuz bir GPU'ya sığdırır. Üçüncü kaldıraç kullanım verimidir: pahalı bir GPU'nun boş beklemesi (düşük doluluk) en sık görülen israftır; istekleri gruplama (batching), önbellekleme ve akıllı yönlendirme ile GPU'yu dolu tutmak, birim maliyeti düşürür. Dördüncü kaldıraç doğru kiralama/satın alma dengesidir; beşincisi ise iş yükünü doğru donanıma eşlemektir. Her iş en pahalı GPU'yu hak etmez: hafif çıkarım işleri daha ucuz kartlarda, ağır eğitim işleri güçlü kartlarda çalıştırılarak toplam maliyet optimize edilir. Bu tekniklerin çıkarım tarafındaki ayrıntısını — önbellekleme, model yönlendirme ve model seçimi dahil — LLM maliyet optimizasyonu yazısında derinlemesine ele alıyoruz. Son bir uyarı: GPU maliyetini yalnızca kartın fiyatı sanmak yanıltıcıdır. Gerçek maliyet, kartın fiyatının yanında elektrik tüketimi, soğutma, veri merkezi alanı, yönetim iş gücü ve amortismanı da içerir — buna toplam sahip olma maliyeti (TCO) denir. Bir GPU'nun etiket fiyatı ucuz görünse bile, yüksek güç tüketimi ve soğutma ihtiyacıyla toplamda pahalı olabilir. Bu yüzden kurumsal GPU kararı, tek bir fiyat etiketine değil, çok yıllık bir TCO tablosuna dayanmalıdır. Yapay zeka donanımı bütçesini bu bütünsel çerçeveyle planlamak, sürprizlerden korur. ## GPU Olmadan, Sadece CPU ile AI Çalışır mı? Sık sorulan ve önemli bir soru: GPU olmadan, yalnızca CPU ile yapay zeka çalışır mı? Kısa cevap "kısmen evet, ama sınırlarını bilerek." Bu soruyu netleştirmek, gpu nedir sorusunun sınırlarını da netleştirir ve birçok kurumu gereksiz donanım harcamasından koruyabilir. CPU'nun yapay zekada rahatça çalıştığı üç alan vardır. Birincisi klasik makine öğrenmesidir: karar ağaçları, doğrusal modeller, kümeleme gibi algoritmalar GPU gerektirmez ve CPU üzerinde verimli çalışır. İkincisi küçük modellerdir: kuantize edilmiş küçük dil modelleri veya kompakt görü modelleri, düşük hacimde CPU üzerinde makul hızda çalışabilir; bir masaüstünde bile denenebilir. Üçüncüsü veri hazırlama ve orkestrasyondur: veriyi okumak, temizlemek, hattı yönetmek zaten CPU'nun işidir. Yani birçok deneysel ve küçük ölçekli senaryoda, CPU tek başına yeterli olabilir. CPU'nun tıkandığı yer, ölçek ve büyük modellerdir. Büyük bir dil modelini CPU üzerinde çıkarım için çalıştırmak mümkündür ama çok yavaştır — bir yanıt saniyeler yerine dakikalar sürebilir; yüksek trafikte bu kabul edilemez. Büyük bir modeli CPU ile sıfırdan eğitmek ise pratikte imkânsıza yakındır; haftalar sürecek bir eğitim, CPU ile aylara hatta yıllara yayılır. İşte bu noktada cpu gpu farkı acımasızca ortaya çıkar: paralel iş yükünde GPU, CPU'yu kat kat geçer ve bu fark yük büyüdükçe uçurumlaşır. Doğru zihinsel model şudur: CPU'yu "her işi yapabilen ama ağır AI işinde yavaş kalan genel amaçlı bir işçi", GPU'yu "yalnızca paralel matematikte uzman ama o işte kimsenin yetişemediği bir uzman" olarak düşünün. Deneme, prototip ve küçük ölçek için CPU'yla başlamak akıllıcadır; iş ciddileşip ölçek ve hız kritik hale geldiğinde GPU'ya (veya benzer bir paralel hızlandırıcıya) geçmek gerekir. Bu kademeli yaklaşım, "önce en pahalı donanımı al" refleksinden çok daha ekonomiktir ve birçok kurumun gereksiz yere büyük yatırım yapmasını önler. ## Kurumsal GPU Seçiminde Sık Yapılan Hatalar Gpu nedir sorusunu teorik olarak anlamak kolaydır; zor olan, kurumsal bir GPU kararını doğru vermektir. Deneyimli bir gözle bakıldığında, başarısız veya israflı GPU kararları benzer hatalarla tekrarlanır. En sık görülenler şunlardır: - **VRAM yerine yalnızca hıza bakmak:** Kıyaslamalardaki çiğ hız sayılarına odaklanıp VRAM'i ihmal etmek, çalıştırmak istediğiniz modele sığmayan bir GPU almanıza yol açar. Önce bellek, sonra hız. - **Eğitim ile çıkarım ihtiyacını karıştırmak:** Aslında yalnızca çıkarım yapacakken, sıfırdan eğitim yapacakmış gibi devasa donanım almak en pahalı hatadır. Çıkarım eğitim farkını doğru okumak bütçeyi korur. - **Kuantizasyonu değerlendirmemek:** Bir modeli her zaman tam hassasiyette çalıştırmak zorunda olduğunu sanmak, gereksiz yere büyük GPU almaya yol açar; kuantizasyon çoğu senaryoda önce denenmelidir. - **Toplam maliyeti (TCO) hesaba katmamak:** Yalnızca kartın etiket fiyatına bakıp elektrik, soğutma, alan ve yönetim maliyetlerini yok saymak, bütçeyi sonradan şaşırtır. - **CPU'yu ve veri hattını ihmal etmek:** Güçlü bir GPU alıp onu besleyecek CPU, hızlı depolama ve belleği zayıf bırakmak, pahalı GPU'nun boş beklemesine (GPU starvation) yol açar. - **Kapasiteyi yanlış planlamak:** On-premise'te ihtiyaçtan az alıp yetememek veya çok alıp boş bırakmak; her ikisi de maliyetlidir. Yük tahmini olmadan satın alma risklidir. - **Veri egemenliğini geç düşünmek:** KVKK/veri egemenliği kısıtlarını proje sonunda fark edip, buluta taşınan veriyi geri çekmek zorunda kalmak; bu kısıt en baştan mimariye girmelidir. Dikkat edin: bu hataların çoğu, donanımı işten önce seçmekten kaynaklanır. Doğru sıra tersidir — önce iş tanımlanır (eğitim mi çıkarım mı, hangi model, hangi yük, hangi veri kısıtı), sonra bu işin gerektirdiği en küçük yeterli donanım seçilir. GPU kararı bir "en güçlü kartı al" yarışı değil, bir "işe en uygun ve en ekonomik donanımı eşle" mühendisliğidir. İşi doğru tanımlayan bir ekip, mütevazı bir bütçeyle bile sağlam bir sistem kurar; işi tanımadan alışverişe çıkan bir ekip, en pahalı kartlarla bile israf eder. Bu hatalardan kaçınmanın en pratik yolu, dar ve ölçülebilir bir pilotla başlamaktır: tek bir kullanım senaryosu için gereken donanımı hesaplayıp küçük başlamak, sonra ölçerek büyümek. Sahada bu kararların nasıl olgunlaştığını on-premise kurulumlarda karşılaştığım gerçekler saha notunda; multimodal iş yüklerinin donanıma etkisini ise multimodal model nedir yazısında bulabilirsiniz. ## GPU, TPU ve Diğer AI Hızlandırıcılar: Kısa Bir Bakış Gpu nedir sorusunun tam resmi için, GPU'nun tek AI hızlandırıcı olmadığını bilmek gerekir. GPU bugün yapay zeka donanımının en yaygın ve en esnek seçeneği olsa da, aynı paralel hesaplama ihtiyacına yanıt veren başka çipler de vardır; bunları tanımak, kurumsal kararı bağlama oturtur. En bilinen alternatif TPU'dur (Tensor Processing Unit). TPU, özellikle sinir ağı hesaplamaları için tasarlanmış, belirli iş yüklerinde çok verimli olabilen özel bir çiptir; ancak GPU kadar genel amaçlı ve yaygın erişilebilir değildir. Bunun yanında, çıkarıma özel tasarlanmış çeşitli hızlandırıcılar (inference çipleri) vardır; bunlar eğitim değil yalnızca çıkarım için optimize edilmiştir ve belirli senaryolarda daha düşük güç tüketimiyle iş görür. Ayrıca modern işlemcilere gömülü NPU'lar (Neural Processing Unit), uç cihazlarda (telefon, dizüstü) küçük modelleri verimli çalıştırmak için giderek yaygınlaşıyor. Kurumsal açıdan pratik gerçek şudur: GPU, esnekliği, olgun yazılım ekosistemi ve geniş model uyumluluğu sayesinde çoğu kurum için hâlâ varsayılan doğru seçimdir. Özel hızlandırıcılar belirli ölçeklerde ve belirli iş yüklerinde avantaj sunabilir, ama bunlar genellikle çok büyük ölçekli operasyonların veya çok özel ihtiyaçların konusudur. Çoğu kurum için doğru soru "GPU mu TPU mu" değil, "işime uygun GPU'yu nasıl doğru boyutlandırırım"dır. Bu yüzden bu rehber GPU'ya odaklanır; alternatifler, ölçek ve ihtiyaç belirginleştiğinde değerlendirilecek ileri seçeneklerdir. Ekosistemin hızla değiştiğini de unutmamak gerekir. Çip mimarileri, bellek teknolojileri ve yazılım katmanı sürekli gelişiyor; bugün doğru olan bir seçim, iki yıl sonra güncellenebilir. Bu yüzden kurumsal GPU kararında donanıma değil, değiştirilebilir bir mimariye ve ölçülebilir bir iş tanımına yatırım yapmak daha dayanıklıdır. Doğru soru "hangi çip en güçlü" değil, "iş yüküm neyi gerektiriyor ve bunu en ekonomik nasıl karşılarım"dır. ## GPU'da Bant Genişliği ve Özel Çekirdekler: Yalnızca VRAM Miktarı Değil Gpu nedir sorusunu derinleştirdikçe, VRAM'in "ne kadar" olduğu kadar "ne kadar hızlı" olduğunun da önemli olduğu ortaya çıkar. İki GPU aynı miktarda VRAM'e sahip olsa bile, birbirinden çok farklı performans verebilir; çünkü performansı belirleyen üç ayrı eksen vardır: bellek miktarı, bellek bant genişliği ve hesaplama gücü. Bunları birlikte değerlendirmek, yanıltıcı "tek sayıya" bakmaktan çok daha doğru bir yapay zeka donanımı kararı verdirir. Bellek bant genişliği, GPU çekirdeklerinin VRAM'den saniyede ne kadar veri okuyabildiğini ölçer. Yapay zeka iş yükleri, özellikle dil modeli çıkarımı, sık sık "belleğe bağımlıdır" (memory-bound): darboğaz, çekirdeklerin hesap gücü değil, veriyi belleğe getirme hızıdır. Bu yüzden yüksek bant genişlikli bellek (HBM) kullanan veri merkezi GPU'ları, aynı VRAM miktarına sahip ama daha yavaş bellekli kartlardan çıkarımda belirgin biçimde hızlıdır. Bir modelin token üretme hızı, çoğu zaman doğrudan bellek bant genişliğiyle orantılıdır. Hesaplama gücü ekseninde ise özel çekirdekler devreye girer. Modern AI GPU'ları, sıradan hesap çekirdeklerinin yanında matris çarpımına özel hızlandırılmış birimler (tensör çekirdekleri gibi) taşır. Bu birimler, yapay zekanın temel işlemi olan matris çarpımını çok daha verimli yapar ve düşük hassasiyetli (FP16, INT8) işlemleri hızlandırır. İki kartın kâğıt üstündeki genel gücü benzer görünse bile, bu özel çekirdeklerin varlığı ve olgunluğu, gerçek AI performansında büyük fark yaratır. Pratik ders şudur: bir GPU'yu tek bir sayıyla (ne VRAM ne de çiğ hız) değerlendirmek yanıltıcıdır. Doğru yaklaşım, çalıştıracağınız gerçek iş yükünü — kendi modelinizi, kendi verinizi, kendi eşzamanlılığınızı — o GPU üzerinde ölçmektir. Kıyaslama sayıları başlangıç noktasıdır; nihai karar, kendi görevinizde yapılan gerçek bir testtir. Bu yüzden ciddi bir GPU yatırımından önce, aday kartlarda kendi iş yükünüzle bir doğrulama çalıştırmak, en değerli adımlardan biridir. ## Fine-tuning için GPU İhtiyacı Nedir? Tam Eğitim ile Verimli Uyarlama Eğitim ile çıkarım arasındaki farkı anlattık; ama ikisinin arasında duran, kurumlar için çok önemli bir üçüncü senaryo daha var: fine-tuning (ince ayar, hazır bir modeli kendi verinizle uyarlama). Fine-tuning'in GPU ihtiyacı, "tam" mı yoksa "verimli" mi yaptığınıza göre dramatik biçimde değişir ve bu ayrım, birçok kurumun sandığından çok daha ucuz uyarlama yapabileceğini gösterir. Tam fine-tuning (full fine-tuning), modelin tüm parametrelerini yeniden eğitir. Bu, sıfırdan eğitime yakın bir kaynak ister: modelin ağırlıklarının yanında tüm gradyanlar ve optimizer durumları bellekte tutulur, dolayısıyla VRAM ihtiyacı çıkarımın birkaç katına çıkar. Yani büyük bir modeli tam fine-tune etmek, çoklu-GPU ve yüksek VRAM gerektirebilir. Bu, çoğu kurum için pahalı ve çoğu zaman gereksizdir. Verimli uyarlama yöntemleri (parametre-verimli fine-tuning, PEFT; en bilineni LoRA), bu maliyeti kökten düşürür. Bu yöntemler modelin tüm parametrelerini değil, yalnızca küçük bir ek katman kümesini eğitir; modelin gövdesi dondurulur. Sonuç, VRAM ihtiyacının dramatik biçimde azalmasıdır — tam fine-tuning için birden fazla büyük GPU gerekirken, LoRA ile aynı modeli tek ve daha mütevazı bir GPU'da uyarlamak mümkün olabilir. Kalite çoğu kurumsal görevde tam fine-tuning'e çok yakın kalır. Kurumsal AI'da yaygın bir yanılgı, "modeli kendimize uyarlamak için devasa bir GPU çiftliği gerekir" korkusudur. Gerçekte çoğu kurumsal uyarlama ihtiyacı, verimli yöntemlerle (LoRA gibi) tek bir GPU üzerinde karşılanabilir. Önce hazır modeli çıkarımda kullanmayı, gerekiyorsa verimli fine-tuning'i, ancak çok özel bir ihtiyaç varsa tam fine-tuning'i değerlendirin. Bu kademeli yaklaşım, GPU bütçesini kat kat düşürür ve "en büyük donanımı al" refleksinin önüne geçer. Bu yüzden fine-tuning kararında da temel prensip aynıdır: önce işi tanımla, sonra en küçük yeterli yaklaşımı seç. Kurumunuz için hazır model + çıkarım, verimli uyarlama ve tam eğitim arasındaki doğru dengeyi kurmak, hem kaliteyi hem maliyeti belirleyen stratejik bir karardır. ## GPU Kullanımı Nasıl Ölçülür? Doluluk, Gecikme ve Verim Bir GPU satın almak veya kiralamak yolun yalnızca başıdır; asıl değer, o GPU'nun verimli kullanılmasından gelir. Gpu nedir bilgisinin operasyonel karşılığı, GPU'nun performansını doğru metriklerle ölçmektir. Ölçülmeyen bir GPU altyapısı, çoğu zaman ya boşa çalışır ya da fark edilmeden tıkanır. Üç temel metrik, bu resmi netleştirir: doluluk, gecikme ve verim. Doluluk (utilization), GPU'nun zamanının ne kadarını gerçek hesap yaparak geçirdiğini gösterir. Düşük doluluk, pahalı bir GPU'nun boş beklediği anlamına gelir ve kurumsal projelerde en sık görülen israftır. Bunun başlıca nedeni, GPU'yu besleyen veri hattının yavaş olması — yani GPU'nun veri beklemesidir (GPU starvation). Yüksek doluluk her zaman iyi değildir; ama sürekli düşük doluluk, ya donanımın gereğinden büyük olduğunu ya da veri hattının darboğaz yarattığını gösterir. Doluluğu artırmanın en etkili yolu, istekleri gruplamak (batching): GPU'ya tek tek istek yerine bir grup isteği aynı anda vererek çekirdekleri dolu tutmaktır. Gecikme (latency) ve verim (throughput), özellikle çıkarımda birbiriyle gerilim içindeki iki metriktir. Gecikme, tek bir isteğin ne kadar çabuk yanıtlandığını ölçer — kullanıcının beklediği süre. Verim ise birim zamanda kaç isteğin karşılandığını ölçer — sistemin toplam kapasitesi. İstekleri büyük gruplar halinde işlemek verimi artırır ama tek bir isteğin gecikmesini büyütebilir; küçük gruplar gecikmeyi düşürür ama verimi azaltır. Doğru denge, uygulamaya bağlıdır: bir sohbet asistanında gecikme, bir toplu belge işlemede verim önceliklidir. Bu metrikleri sürekli izlemek, GPU maliyetini yönetmenin temelidir. Bir gösterge panosu üzerinden doluluk, gecikme, verim ve token başına maliyeti takip etmek, "daha fazla GPU mu almalıyım yoksa mevcut GPU'yu daha mı verimli kullanmalıyım" sorusuna kanıta dayalı cevap verir. Çoğu zaman cevap, yeni donanım almak değil, mevcut donanımın doluluğunu artırmaktır — bu da yeni bir kart almaktan çok daha ucuzdur. ## Enerji, Soğutma ve Veri Merkezi: GPU'nun Görünmeyen Maliyetleri GPU'nun etiket fiyatı, toplam maliyetin yalnızca görünen kısmıdır. Özellikle on-premise (yerinde) kurulumda, gpu nedir sorusunun cevabına eşlik eden görünmeyen maliyetler — enerji, soğutma ve fiziksel altyapı — çoğu zaman ilk yatırımdan daha belirleyici hale gelir. Bu kalemleri baştan hesaba katmamak, birçok kurumsal GPU projesini bütçe sürprizleriyle karşı karşıya bırakır. Enerji, en büyük süreklilik maliyetidir. Güçlü bir AI GPU'su yüksek güç çeker ve 7/24 çalıştığında bu tüketim aylık faturada ciddi bir kaleme dönüşür. Dahası, GPU'nun çektiği her watt, sonunda ısıya dönüşür ve bu ısının uzaklaştırılması gerekir — yani enerji maliyeti çift yönlüdür: hem kartı beslemek hem onu soğutmak için harcarsınız. Bu yüzden bir GPU'nun güç verimliliği (birim iş başına harcanan enerji), yalnızca çevresel değil, doğrudan ekonomik bir kriterdir. Soğutma, ikinci kritik boyuttur. Yüksek yoğunluklu GPU'lar, sıradan bir ofis ortamında değil, uygun soğutmaya sahip bir veri merkezinde çalışmak zorundadır. Yetersiz soğutma, GPU'nun kendini korumak için hızını düşürmesine (thermal throttling) yol açar — yani pahalı donanım, sıcaklık yüzünden tam kapasite çalışamaz. Ölçek büyüdükçe hava soğutması yetersiz kalabilir ve sıvı soğutma gibi ileri çözümler gündeme gelir; bu da altyapı maliyetini artırır. Üçüncü boyut fiziksel altyapıdır: rack alanı, güç dağıtımı, kesintisiz güç kaynağı ve ağ. On-premise bir GPU kümesi, yalnızca kart değil, onu barındıracak ve besleyecek bir ekosistem gerektirir. İşte tam da bu görünmeyen maliyetler, bulut kiralamanın cazibesini artırır: bulutta bu altyapının tamamını sağlayıcı üstlenir. Karar verirken bu kalemleri toplam sahip olma maliyeti (TCO) hesabına dahil etmek, gerçekçi bir kıyaslama için şarttır. Bu bütünsel altyapı bakışını on-premise ve egemen AI altyapısı rehberinde derinleştiriyoruz. ## GPU Tedariki ve Kapasite Planlaması: Sık Karşılaşılan Zorluklar Kurumsal AI'da gpu nedir sorusunun beklenmedik bir boyutu tedariktir: doğru GPU'yu seçmek bir şey, onu zamanında ve makul fiyata temin etmek başka bir şeydir. Yüksek talep dönemlerinde güçlü AI GPU'larının teslim süreleri uzayabilir ve fiyatları oynayabilir; bu, kurumsal planlamayı doğrudan etkileyen bir gerçektir. Donanım kararını yalnızca teknik değil, tedarik açısından da düşünmek gerekir. Kapasite planlaması, bu belirsizliğin göbeğinde durur. On-premise satın almada iki yönlü bir risk vardır: ihtiyaçtan az alırsanız yük arttığında yetersiz kalırsınız ve yeni kart temini gecikebilir; ihtiyaçtan çok alırsanız pahalı donanım boş bekler ve sermayeniz atıl kalır. Bu ikilem, yük tahmininin neden bu kadar önemli olduğunu gösterir. İyi bir kapasite planı, mevcut yükü, büyüme beklentisini ve pik dönemleri birlikte değerlendirir; belirsizlik yüksekse, sabit kapasiteyi buluttaki esnek kapasiteyle tamamlar. İşte bu noktada hibrit model bir tedarik stratejisi olarak da değer kazanır. Sürekli ve öngörülebilir taban yükü kendi donanımınızda tutup, öngörülemeyen pik ve deneysel yükü bulutta karşılamak, hem kapasite riskini hem tedarik riskini azaltır: temel kapasiteniz elinizdedir, dalgalanmayı ise anında ölçeklenen bulutla yönetirsiniz. Bu yaklaşım, "her şeyi baştan satın al" veya "her şeyi buluta yasla" uçlarının ikisinden de daha dayanıklıdır. Pratik öneri, kapasite kararını bir defalık değil, düzenli gözden geçirilen bir plan olarak ele almaktır. Yük büyüdükçe, kullanım verileri biriktikçe ve ekosistem değiştikçe kapasite planı güncellenmelidir. Erken aşamada esnek (bulut ağırlıklı) kalmak, ihtiyaç netleştikçe sabit kapasiteye (on-premise) kaymak, çoğu kurum için sağduyulu bir yoldur. Kapasiteyi doğru planlamak, gpu nedir sorusunu bir donanım kararından bir operasyon disiplinine dönüştürür. ## Küçük Bir GPU Pilotu Nasıl Kurulur? Kurumsal GPU kararının en güvenli yolu, dev bir yatırımla değil, küçük ve ölçülebilir bir pilotla başlamaktır. Gpu nedir bilgisini pratiğe dökmenin en iyi yolu, tek bir kullanım senaryosunu gerçek donanım üzerinde çalıştırıp ölçmektir. Aşağıdaki yol haritası, riski düşük tutarak sağlam bir başlangıç yapmayı sağlar. Bu pilot yaklaşımının değeri, kararı tahminden kanıta taşımasıdır. "Sanırım şu kadar GPU gerekir" cümlesi, "ölçtük, bu yükte şu GPU şu doluluk ve gecikmeyle yetiyor" cümlesine dönüşür. Küçük ama ölçülmüş bir başarı, büyük ama belirsiz bir vaatten her zaman daha ikna edicidir ve bir sonraki yatırımın önünü açar. Pilotu tasarlarken bir noktayı baştan düşünmek gerekir: veri egemenliği ve KVKK kısıtları. Eğer pilot hassas veriyle çalışacaksa, bulutta test ederken bu veriyi kullanmak yerine temsili/anonim veri kullanmak, hem uyumu korur hem gerçekçi bir performans ölçümü verir. Pilotu bu disiplinle kurmak, üretime geçişte sürprizleri önler. Kurumunuza özel bir GPU pilotu tasarlamak için yapay zeka danışmanlığı kapsamında birlikte çalışabiliriz. ## GPU Nesilleri, Ömür ve Yenileme: Donanım Ne Zaman Eskir? Gpu nedir sorusunun zaman içindeki boyutu, donanımın eskimesidir. Bir CPU'nun aksine, AI GPU'ları hem hızlı gelişen bir alanda hem de yoğun kullanım altında çalışır; bu yüzden bir GPU'nun "ekonomik ömrü", fiziksel ömründen daha kısa olabilir. Kurumsal bir GPU yatırımı yaparken, kartın yalnızca bugünkü performansını değil, birkaç yıllık ömrü boyunca değerini de düşünmek gerekir. GPU nesilleri hızlı ilerler. Her yeni nesil, genellikle daha fazla VRAM, daha yüksek bellek bant genişliği ve matris işlemlerinde daha verimli özel çekirdekler getirir. Bu, bir önceki neslin işe yaramaz olduğu anlamına gelmez — eski bir GPU çıkarımda yıllarca hizmet verebilir — ama en ağır iş yüklerinde (özellikle büyük model eğitimi), yeni nesil belirgin bir verim avantajı sunar. Bu yüzden "en yeni kartı hemen al" yerine, "iş yüküm mevcut nesille karşılanıyor mu" sorusu daha ekonomiktir. Ömür açısından iki eskime türü vardır. Birincisi teknolojik eskimedir: kart hâlâ çalışır ama yeni nesle kıyasla birim iş başına daha fazla enerji harcar veya belirli yeni yetenekleri (yeni düşük hassasiyet formatları gibi) desteklemez. İkincisi ise yıpranmadır: 7/24 yüksek sıcaklıkta çalışan bir GPU, zamanla arıza riski taşır. Kurumsal planlamada, kartların bir amortisman takvimi üzerinden değerlendirilmesi ve yenileme zamanının önceden öngörülmesi, bütçe sürprizlerini önler. Pratik strateji, iş yükünü nesle eşlemektir: en ağır ve zaman-kritik işler için güncel nesil, daha hafif çıkarım işleri için önceki nesil kullanılabilir. Ayrıca yeni bir karta geçerken, eski kartın ikinci el değeri veya daha hafif işlere kaydırılması, toplam maliyeti düşürür. Bu kademeli yenileme yaklaşımı, "her şeyi en yeniyle değiştir" refleksinden hem daha ekonomik hem daha sürdürülebilirdir. Yenileme kararı da, tıpkı ilk satın alma gibi, bir toplam sahip olma maliyeti (TCO) hesabına dayanmalıdır. ## Bulut GPU Fiyatlandırma Modelleri: Ayrılmış, İsteğe Bağlı ve Kesintili GPU'yu bulutta kiralamaya karar verdiyseniz, gpu nedir sorusunun bir sonraki pratik katmanı fiyatlandırma modelidir. Bulut sağlayıcıları GPU kapasitesini tek bir fiyatla değil, farklı taahhüt ve esneklik seviyelerinde sunar; doğru modeli seçmek, aynı donanımı çok daha düşük maliyetle kullanmanızı sağlar. Üç temel model öne çıkar. İsteğe bağlı (on-demand) model, en esnek ama birim başına en pahalı seçenektir: ihtiyaç duyduğun anda başlatır, işin bitince durdurursun, saatlik ödersin. Bu, öngörülemeyen ve kısa süreli işler için idealdir — bir deney, bir pik dönem, bir tek seferlik eğitim. Taahhüt yoktur, ama sürekli kullanımda toplam maliyet yükselir. Deneysel ve değişken yükün doğal seçimidir. Ayrılmış (reserved / taahhütlü) model, belirli bir kapasiteyi uzun süre (örneğin bir yıl) kullanmayı taahhüt ettiğinizde, isteğe bağlıya kıyasla ciddi indirim sunar. Bu, yükünüz sürekli ve öngörülebilirse mantıklıdır: nasılsa donanımı sürekli kullanacaksanız, taahhütle birim maliyeti düşürürsünüz. Bedeli esnekliktir — taahhüt ettiğiniz kapasiteyi kullanmasanız da ödersiniz. Kesintili (spot / preemptible) model, sağlayıcının o an boşta olan kapasitesini çok düşük fiyata sunar; ama bir uyarı vardır: sağlayıcı bu kapasiteye ihtiyaç duyduğunda işinizi kesebilir. Bu, kesintiye dayanıklı işler için — örneğin durdurulup kaldığı yerden devam edebilen bir eğitim veya toplu işleme — mükemmeldir ve maliyeti dramatik düşürür; ama canlı, kesintiye tahammülü olmayan çıkarım için uygun değildir. Deneyimli ekipler bu üç modeli karıştırır: taban yükü ayrılmışta, esnek yükü isteğe bağlıda, kesintiye dayanıklı toplu işleri kesintili kapasitede çalıştırarak toplam bulut maliyetini optimize eder. Bu optimizasyon mantığının çıkarım tarafındaki karşılığını LLM maliyet optimizasyonu yazısında bulabilirsiniz. ## GPU Paylaşımı ve Sanallaştırma: Bir Kartı Bölmek Kurumsal AI'da sık gözden kaçan bir verim kaldıracı, tek bir GPU'yu birden fazla iş arasında paylaştırmaktır. Gpu nedir sorusunun ileri bir cevabı şudur: güçlü bir GPU, çoğu zaman tek bir küçük işin ihtiyacından fazladır; bu fazlalığı boşa harcamak yerine bölüştürmek, birim maliyeti ciddi düşürür. Bunu sağlayan iki temel yaklaşım vardır: bölümleme ve zaman paylaşımı. Bölümleme (partitioning), bazı modern veri merkezi GPU'larının donanım düzeyinde birden fazla bağımsız parçaya ayrılabilmesidir. Böylece tek bir fiziksel kart, her biri kendi VRAM dilimine ve çekirdeklerine sahip birkaç sanal GPU gibi davranır; farklı ekipler veya farklı küçük modeller aynı kartı, birbirini etkilemeden paylaşır. Bu, özellikle çok sayıda küçük çıkarım işi olan kurumlarda, pahalı bir kartın boş kalmasını önler. Zaman paylaşımı (time-slicing) ise, GPU'yu farklı işler arasında sırayla, hızlı geçişlerle paylaştırır. Bir iş kartı kısa süre kullanır, sonra sıra diğerine geçer. Bu yaklaşım, sürekli meşgul olmayan (aralıklı istek gelen) iş yüklerinde, tek kartın kapasitesini çok daha fazla kullanıcıya yaymayı sağlar. Bedeli, işlerin birbirini bekleyebilmesidir; bu yüzden gecikmeye duyarlı canlı sistemlerde dikkatli kullanılır. Bu tekniklerin ortak değeri, doluluğu artırıp israfı azaltmaktır. Birçok kurumda GPU'lar düşük doluluk yüzünden pahalıya mal olur; paylaşım ve sanallaştırma, aynı donanımdan çok daha fazla iş çıkarmayı sağlar. Yeni donanım almadan önce, "mevcut GPU'larımı daha verimli paylaştırabilir miyim" sorusunu sormak, çoğu zaman en ucuz kapasite artışıdır. Bu yüzden GPU paylaşımı, kurumsal yapay zeka donanımı stratejisinin sıklıkla ihmal edilen ama yüksek getirili bir parçasıdır. ## Türkiye Bağlamında GPU ve Veri Egemenliği Kurumsal GPU kararı Türkiye bağlamında değerlendirilirken, teknik ve ekonomik boyutların yanına bir de veri egemenliği ekseni girer. Gpu nedir sorusunun yerel karşılığı, "verim nerede işlenecek ve bu KVKK ile veri egemenliği açısından ne anlama gelir" sorusuyla iç içedir. Bu, yalnızca bir hukuk meselesi değil, doğrudan bir mimari ve donanım kararıdır. Mesele şudur: bulut GPU kiralamak çoğu zaman verinin kurum dışına, hatta yurt dışındaki bir veri merkezine gitmesi demektir. Kişisel veri veya kritik iş verisi içeren yükler için bu, KVKK yükümlülükleri ve bazı sektörlerdeki veri yerelleştirme beklentileri açısından sorun yaratabilir. İşte tam da bu noktada on-premise (yerinde) veya yurt içi egemen bulut seçenekleri değer kazanır: veri kurumun ya da ülkenin sınırları içinde kalır, işleme kendi denetiminizdeki donanımda yapılır. Bu, "her zaman on-premise seç" demek değildir; dengeli bir yaklaşım gerektirir. Hassas ve düzenlemeye tabi veriyi kendi donanımınızda (veya yurt içi egemen altyapıda) işlerken, hassas olmayan deneysel yükü esnek bulutta çalıştırmak, hem uyumu hem esnekliği korur. Karar, verinin sınıflandırılmasıyla başlar: hangi yük hassas, hangi yük değil? Bu ayrım netleşmeden verilen bir donanım kararı, sonradan pahalı bir geri dönüşe yol açabilir. Türkiye'nin yüksek yapay zeka benimseme oranı, bu kararı daha da güncel kılıyor: kurumsal AI iş yükleri arttıkça, veriyi egemen biçimde işleyecek doğru boyutlandırılmış bir yapay zeka donanımı altyapısı, hem uyum hem rekabet avantajı sağlıyor. Egemen AI altyapısını uçtan uca on-premise ve egemen AI altyapısı rehberinde, sahadan gözlemleri ise on-premise kurulumlarda karşılaştığım gerçekler saha notunda ele alıyoruz. Kurumunuza özel bir veri egemenliği + GPU stratejisi için yapay zeka danışmanlığı kapsamında birlikte çalışabiliriz. ## Kurumsal Bir GPU Kararı Nasıl Verilir? Adım Adım Çerçeve Buraya kadar anlattığımız her şey — cpu gpu farkı, VRAM, model boyutu, kuantizasyon, çıkarım eğitim farkı, çoklu-GPU, kiralama/satın alma, maliyet — tek bir pratik kararda birleşir: "Kurumum için hangi GPU altyapısını, hangi biçimde kurmalıyım?" Bu kararı hisle değil, bir çerçeveyle vermek gerekir. Aşağıdaki adımlar, gpu nedir bilgisini uygulanabilir bir karara dönüştürür. Birinci adım işi tanımlamaktır: Sıfırdan model mi eğiteceksiniz, yoksa hazır modeli çıkarımda mı kullanacaksınız? Bu tek soru, ihtiyacın büyüklüğünü belirler. İkinci adım modeli seçmektir: Göreviniz için gereken en küçük yeterli modeli belirleyin; parametre sayısını netleştirin. Üçüncü adım VRAM'i hesaplamaktır: Model boyutu ve hassasiyetten yola çıkarak bellek ihtiyacını, tampon dahil, çıkarın. Dördüncü adım kuantizasyonu değerlendirmektir: Doğruluğu koruyan en düşük hassasiyetle daha küçük bir GPU'ya sığıp sığamayacağınızı test edin. Beşinci adım dağıtım biçimini seçmektir: Yük profili, veri egemenliği ve maliyet kısıtlarına göre bulut kiralama, on-premise satın alma veya hibrit arasında karar verin. Altıncı adım TCO'yu hesaplamaktır: Yalnızca kart fiyatını değil, elektrik, soğutma, alan, yönetim ve amortismanı içeren çok yıllık toplam maliyeti çıkarın. Yedinci adım pilotla doğrulamaktır: Küçük başlayıp gerçek yükle ölçün; doluluk, gecikme ve maliyeti izleyip ancak kanıtla büyüyün. Bu çerçevenin özü şudur: kurumsal GPU kararı bir donanım alışverişi değil, bir mimari ve maliyet tasarımıdır. En güçlü kartı almak değil, işe en uygun ve en ekonomik yapay zeka donanımını kurmak hedeftir. Bu tasarımı kurumunuza özel çıkarmak, doğru modeli ve doğru dağıtım biçimini seçmek için yapay zeka danışmanlığı kapsamında birlikte çalışabiliriz; ekiplerinizin bu kararları kendi başına verebilecek yetkinliği kazanması için kurumsal eğitim seçeneklerini değerlendirebilir ve tüm temel kavramları öğrenme merkezinde derinleştirebilirsiniz. ## GPU Hakkında Sık Karşılaşılan Yanlış İnanışlar Gpu nedir sorusu popülerleştikçe, etrafında bir dizi yanlış inanış da oluştu. Bu yanılgıları düzeltmek, hem daha doğru bir donanım kararı vermenizi sağlar hem de gereksiz harcamalardan korur. En yaygın olanlarını tek tek ele alalım. Birinci yanılgı: "En pahalı GPU her zaman en iyisidir." Doğru değil. En pahalı kart, sizin iş yükünüz için gereğinden büyük olabilir ve bütçenizi boşa harcayabilir. Doğru GPU, en güçlü olan değil, işinize en uygun ve en ekonomik olandır. Küçük bir çıkarım işi için devasa bir eğitim kartı almak, bir çivi çakmak için balyoz kullanmaya benzer. İkinci yanılgı: "GPU sayısını artırmak performansı doğrusal artırır." Daha önce anlattığımız gibi, GPU'lar birbiriyle haberleşmek için zaman harcadığından, çoklu-GPU hızlanması her zaman doğrusalın altındadır. İki kart iki kat hız vermez; ölçek büyüdükçe verim düşer. Üçüncü yanılgı: "Yapay zeka için mutlaka GPU şart." Çoğu senaryoda evet, ama mutlak değil. Klasik makine öğrenmesi, küçük kuantize modeller ve düşük hacimli çıkarım CPU üzerinde çalışabilir. GPU, ölçek ve büyük modeller söz konusu olduğunda kritik hale gelir; her AI işi GPU gerektirmez. Dördüncü yanılgı: "VRAM ne kadar çoksa o kadar iyi, gerisi önemsiz." VRAM kritiktir ama tek boyut değildir; bellek bant genişliği ve özel çekirdekler de performansı belirler. Aynı VRAM'e sahip iki kart çok farklı hız verebilir. Beşinci yanılgı: "Bir kez GPU al, iş biter." Gerçekte GPU bir operasyon gerektirir — doluluk ölçme, verimli paylaşım, enerji ve soğutma yönetimi, zamanı gelince yenileme. Yapay zeka donanımı bir alışveriş değil, süregelen bir disiplindir. Bu yanılgıların ortak kökü, GPU'yu tek bir sayıya veya tek bir alışveriş anına indirgemektir. Gerçekte gpu nedir sorusunun doğru cevabı çok boyutludur: iş yükü, VRAM, bant genişliği, kuantizasyon, dağıtım biçimi, maliyet ve operasyon birlikte düşünülür. Bu bütünsel bakış, kurumsal AI'da hem paradan tasarruf ettirir hem de çalışmayan sistemler kurmanın önüne geçer. ## Sık Sorulan Sorular ### GPU neden gerekli? GPU, yapay zeka modellerinin temelindeki matris ve vektör işlemlerini binlerce çekirdekle aynı anda (paralel) yaptığı için gereklidir. Bir dil modelinin tek bir yanıt üretmesi bile milyonlarca çarpma-toplama işlemi gerektirir; bu işlemleri sırayla yapan CPU dakikalar harcarken, paralel yapan GPU saniyeler içinde bitirir. Model eğitmek için bu fark saatlerle haftalar arasındaki farka dönüşür. Kısacası GPU olmadan modern yapay zeka pratik olarak çalışmaz; GPU, yapay zeka donanımının merkezidir ve hem eğitimde hem çıkarımda belirleyicidir. ### VRAM neden önemli? VRAM (Video RAM), GPU'nun kendi üzerindeki hızlı bellektir ve bir modelin o GPU'da çalışıp çalışamayacağını doğrudan belirler. Model ağırlıkları, ara hesaplamalar ve çıkarımda üretilen KV önbelleği bu belleğe sığmak zorundadır; sığmazsa sistem ya hata verir ya da veriyi yavaş sistem belleğine taşıyarak dramatik biçimde yavaşlar. Kaba bir kural olarak yarım hassasiyette (FP16) bir modelin her milyar parametresi yaklaşık 2 GB VRAM ister; buna ara değerler ve önbellek eklenir. Bu yüzden kurumsal AI'da "hangi GPU" sorusundan önce "ne kadar VRAM" sorusu gelir. ### GPU olmadan sadece CPU ile AI çalışır mı? Kısmen evet, ama sınırlıdır. Küçük modeller, klasik makine öğrenmesi algoritmaları ve düşük hacimli çıkarım CPU üzerinde çalışabilir; özellikle kuantize edilmiş küçük dil modelleri CPU'da makul hızda yanıt verebilir. Ancak büyük modelleri eğitmek CPU ile pratikte imkânsıza yakındır ve yüksek trafikli çıkarımda CPU hem yavaş hem pahalı kalır. Genel kural şudur: deneme ve küçük ölçek için CPU yeterli olabilir, ama ciddi eğitim ve ölçekli üretim için GPU gerekir. CPU GPU farkı burada net görünür: CPU esnek ve genel amaçlıdır, GPU paralel AI iş yükünde kat kat verimlidir. ### GPU ile CPU arasındaki fark nedir? Temel fark tasarım felsefesindedir. CPU az sayıda güçlü çekirdeğe sahiptir ve işleri düşük gecikmeyle, sırayla yapmak için optimize edilmiştir. GPU ise binlerce basit çekirdeğe sahiptir ve aynı işlemi büyük bir veri kümesi üzerinde aynı anda (paralel) yapmak için optimize edilmiştir. Yapay zeka, aynı matris çarpımını devasa veri üzerinde tekrarladığı için GPU'ya çok uygundur ve bu çıkarım eğitim farkı gözetmeksizin geçerlidir. CPU yine de sistemi yönetmek, veriyi hazırlamak ve GPU'yu beslemek için gereklidir; ikisi birlikte, tamamlayıcı biçimde çalışır. ### Kurumsal AI için GPU kiralamak mı satın almak mı daha mantıklı? Cevap kullanım profiline bağlıdır. Yük değişkense, projeler deneyselse veya başlangıç sermayesini bağlamak istemiyorsanız bulut GPU kiralama esneklik verir: kullandığın kadar öde, ölçeği anında ayarla. Buna karşılık yük sürekli ve yüksekse, veri egemenliği/KVKK nedeniyle veriler kurum dışına çıkamıyorsa ve uzun vadeli kullanım öngörülüyorsa on-premise satın alma toplam maliyette daha ekonomik olabilir. Çoğu kurum hibrit gider: deney ve pik yükü bulutta, sürekli üretim yükünü kendi donanımında çalıştırır. Karar bir toplam sahip olma maliyeti (TCO) hesabıyla verilmelidir. ### Model boyutu ile VRAM ihtiyacı arasında nasıl bir ilişki var? İlişki neredeyse doğrusaldır ve sayı hassasiyetine bağlıdır. Parametre sayısı, veri tipiyle çarpılarak kaba VRAM ihtiyacı bulunur: FP16'da parametre başına 2 bayt, INT8'de 1 bayt, INT4'te yaklaşık 0,5 bayt. Yani 7 milyar parametreli bir model FP16'da kabaca 14 GB, INT8'de 7 GB, INT4'te ~3,5 GB ağırlık belleği ister; buna çıkarımda büyüyen KV önbelleği ve çalışma alanı eklenir. Eğitimde ise gradyanlar ve optimizer durumları yüzünden ihtiyaç birkaç katına çıkar. Bu yüzden VRAM planlaması, model boyutu ve kuantizasyon kararıyla birlikte yapılır. ## Özetle: GPU Nedir? Özetle, gpu nedir sorusunun cevabı: binlerce çekirdeğini aynı anda çalıştırarak yapay zekanın temelindeki büyük matris işlemlerini paralel yapan, bu yüzden yapay zeka donanımının merkezinde duran işlemci. GPU'nun ne yapabileceğini belirleyen en kritik kaynak VRAM'dir; model bu belleğe sığmazsa hız hiç önemli olmaz. Model boyutu VRAM ihtiyacını belirler, kuantizasyon bu ihtiyacı düşürür, cpu gpu farkı GPU'nun neden AI'ya uygun olduğunu açıklar ve çıkarım eğitim farkı hangi donanıma ihtiyacınız olduğunu belirler. En önemli mesaj şudur: kurumsal GPU kararı bir "en güçlü kartı al" yarışı değil, bir "işe en uygun ve en ekonomik donanımı eşle" mühendisliğidir. Önce işi tanımlayın (eğitim mi çıkarım mı), sonra modeli ve VRAM ihtiyacını hesaplayın, kuantizasyonu değerlendirin, doğru kiralama/satın alma dengesini kurun ve kararı bir TCO tablosuna dayandırın. Unutmayın ki bu karar bir kez verilip bitmez: iş yükü büyüdükçe, ekosistem değiştikçe ve kullanım verisi biriktikçe yeniden gözden geçirilen yaşayan bir plandır. Gpu nedir sorusunu bir kez doğru anlayan bir ekip, sonraki her donanım kararını bu çerçeveyle daha hızlı ve daha isabetli verir; küçük başlar, ölçer ve kanıtla büyür. Bu disiplinle kurulan bir yapay zeka donanımı altyapısı, mütevazı bir bütçeyle bile sağlam ve sürdürülebilir olur. Temel kavramlar için on-premise ve egemen AI altyapısı ve LLM maliyet optimizasyonu yazılarına bakabilir; kurumunuza özel bir GPU ve altyapı kararı için bizimle iletişime geçebilir, ekipleriniz için kurumsal eğitim seçeneklerini değerlendirebilir ve tüm konuları öğrenme merkezinde derinleştirebilirsiniz.