Who Is an LLM Engineer? The AI Engineering Career Ladder from Junior to Staff
LLM Engineering is a new discipline: position among ML engineer, data scientist, AI researcher, and MLOps; skill matrix, seniority levels, global and Turkey salary ranges, daily workflow, career pivots.
Şükrü Yusuf KAYA
28 min read
Beginner
👋 Sıfırdan Üretime: LLM Mühendisliği'ne hoş geldin
Bu, dünyada Türkçe olarak hazırlanan en kapsamlı LLM mühendisliği müfredatının ilk dersi. 76 modül, ~558 ders, 18 capstone projesi ve 200+ kod laboratuvarı boyunca seninle birlikte yürüyeceğim. Yolculuğa başlamadan önce: bu meslek nedir, sen nereye doğru gidiyorsun, ne kazanırsın — netleştirelim.
LLM Engineering: Yeni Bir Mühendislik Disiplini#
2022 Kasım'ında ChatGPT yayınlandığında yazılım dünyasının sözlüğünde "LLM Engineer" diye bir unvan yoktu. Bugün, yalnızca 3 yıl sonra, LinkedIn'in 2026 Emerging Jobs raporuna göre küresel ölçekte en hızlı büyüyen 3 teknik unvandan biri. ABD'de aylık 18.000+, Türkiye'de aylık 1.200+ aktif iş ilanı var.
Peki LLM Engineer tam olarak ne yapar?
Definition
- LLM Engineer (Büyük Dil Modeli Mühendisi)
- Büyük dil modellerini (1) eğiten veya fine-tune eden, (2) çıkarım (inference) ortamlarında çalıştıran, (3) ürün olarak sunan, ve (4) değerlendirip üretimde sağlıklı tutan teknik bir profesyoneldir. Hem makine öğrenmesi, hem dağıtık sistem mühendisliği, hem ürün düşüncesi gerektirir.
Bir LLM Engineer'ın günlük çalışması üç ana yığın etrafında döner:
1️⃣ Model Yığını (Model Stack)#
- Pre-training: Foundation modeli sıfırdan/devam eğitimi (büyük kurumlar)
- Post-training: SFT, DPO/PPO, GRPO ile hizalama
- Quantization & Distillation: 70B → 7B, FP16 → INT4 sıkıştırma
- Architecture tuning: RoPE, GQA, MoE, MLA gibi mimari kararlar
2️⃣ Sistem Yığını (System Stack)#
- Inference engines: vLLM, TGI, SGLang, TensorRT-LLM, llama.cpp
- Distributed training/inference: FSDP, DeepSpeed, Megatron, expert parallelism
- GPU mühendisliği: H100, B200, MFU optimizasyonu, NCCL, NVLink
- Custom CUDA/Triton kernels: FlashAttention, fused ops, KV cache
3️⃣ Ürün Yığını (Product Stack)#
- Backend: FastAPI/Node + streaming SSE/WebSocket, rate limiting
- RAG & Agent mimarisi: vector DB, reranker, tool routing, MCP
- Observability: Langfuse, Phoenix, LangSmith, OpenTelemetry
- Cost engineering: caching, batching, model routing, $/token analizi
Çoğu LLM Engineer üç yığının üçüne birden hakim değildir — biri derin uzmanlığın olur (örn. inference performance), ikincide çalışan bilgi, üçüncüsünde genel kavrayış. Buna T-şeklinde mühendis denir.
Komşu Disiplinler: LLM Engineer Kimden Farklı?#
LLM Engineer rolü dört yakın komşu meslekle sürekli karıştırılır. Bu karışıklık iş ilanlarına da yansıyor — aynı unvan altında çok farklı sorumluluklar bulabilirsin. Görüşmeye giderken farkı bilmek seni kurtarır.
| Rol | Ana Odak | Tipik Çıktı | LLM Engineer ile Örtüşme |
|---|---|---|---|
| ML Engineer | Klasik ML model üretimi (tabular, CV, NLP klasik) | scikit-learn/XGBoost pipeline, batch tahminler | Eğitim/serving mantığı paylaşır, ama LLM özel sistem yığını yok |
| Data Scientist | İş anlayışı + analitik + deney tasarımı | Notebook, rapor, A/B test sonucu | LLM Engineer "model çalıştırır", DS "model ne yapmalıydı" düşünür |
| AI Researcher | Yeni mimari, yeni algoritma, paper | NeurIPS/ICML paper, ablation çalışmaları | LLM Eng implementer/optimizer; researcher icat eder |
| MLOps / Platform Eng | Genel ML altyapı, CI/CD, izleme | Kubernetes operatorleri, MLflow, feast | LLM-spesifik observability (Langfuse vb.) ortak; LLM-spesifik bilgi az |
| AI Engineer | "API ile ürün geliştiren" — daha geniş şemsiye | Chatbot, copilot, agent | LLM Engineer, AI Engineer'ın derin versiyonudur — API'nin altını anlar |
Yaygın yanılgı: "Ben OpenAI API çağırıyorum, ben LLM Engineer'ım." → Hayır, bu AI Engineer veya Application Engineer. LLM Engineer modelin içine bakar, fine-tune eder, kendi inference engine'ini optimize eder, kendi eval suite'ini yazar.
🔑 Kritik ayrım
Bir AI Engineer kapalı modelle (OpenAI, Anthropic API) çalışır ve uygulama mantığı kurar. Bir LLM Engineer açık modelle (Llama, Qwen, Mistral) veya kapalı modellerin altında yatan kavramlarla çalışır; performansı, maliyeti, hizalamayı, evaluation'ı doğrudan mühendislik eder. Bu kurs seni AI Engineer'dan LLM Engineer'a taşıyor.
LLM Engineer Yetkinlik Atlası#
Bir LLM Engineer'ın bilmesi gereken konuları 8 kategoriye topluyoruz. Bu atlas aynı zamanda bu kursun da genel iskeletidir.
Konular: Lineer cebir (matris çarpımı, SVD, eigendecomp), kalkulus (gradient, chain rule, backprop), olasılık (Bayes, MLE, KL divergence, cross-entropy), optimizasyon (SGD, Adam, lr scheduling), bilgi teorisi (entropy, mutual information).
Neden gerekli? Attention'ın matematiğini kavramadan FlashAttention v3'ün neden 2x hızlandırdığını çözemezsin. DPO loss'unu okuyamadan neden RLHF'ten daha hızlı eğitildiğini açıklayamazsın.
Kurs karşılığı: Part I (Modül 1–5).
Kariyer Merdiveni: Intern'den Distinguished Engineer'a#
LLM mühendisliği kariyeri çoğunlukla şu altı seviyeyi izler. Bu sıralama büyük teknoloji şirketlerinin (Google, Meta, Microsoft, OpenAI, Anthropic) açık ladder belgelerinden ve LinkedIn analizinden derlenmiştir. Türkiye'deki yapısı genellikle dört seviyeye sıkışır: Junior, Mid, Senior, Lead.
| Seviye | Tipik Deneyim | Çekirdek Beklenti | Tipik Çıktı |
|---|---|---|---|
| L1 — Intern / Junior | 0–1 yıl | Kütüphane kullanır, bir özelliği yapar | Bir RAG endpoint, bir LoRA fine-tune |
| L2 — Mid (SDE II) | 1–3 yıl | Bir alt sistemi sahiplenir | Inference servisi, eval pipeline |
| L3 — Senior | 3–6 yıl | Sistemleri tasarlar, başkalarına liderlik eder | Inference platformu, fine-tuning altyapısı |
| L4 — Staff | 6–10 yıl | Birden çok takımı etkiler, stratejik kararlar | Şirket çapında LLM strateji ve mimari |
| L5 — Principal | 10+ yıl | Endüstri-genişliğinde etki, paper/standart | Açık-kaynak araç, paper, standartlar |
| L6 — Distinguished / Fellow | 15+ yıl | Şirketin kaderini değiştiren teknik liderlik | Yeni ürün hatları, yeni teknoloji jenerasyonları |
Beklenenler: Bir teknik lead'in tasarladığı sistemde bir özelliği uçtan uca yapabilmen. Açık talimatla çalışırsın; ne yapacağın net söylenir, nasıl yapacağın senin sorumluluğun.
Tipik 3 aylık çıktı:
- Mevcut bir RAG endpoint'ine yeni bir vector DB entegre etmek
- Bir SFT pipeline'ında dataset toplama ve temizleme adımını yazmak
- Bir LoRA fine-tune çalışması yürütmek ve eval metriklerini toplamak
- Langfuse'da yeni bir dashboard kurmak
Hangi yetkinliklere sahipsin:
- PyTorch ile rahat
- HuggingFace Transformers + datasets + accelerate
- bir inference engine (vLLM veya Ollama) kullanmış
- Git, Docker, basit Kubernetes, CI/CD
- En az 1-2 paper'ı bitirmiş (Attention is All You Need, LoRA)
Hangi yetkinliklere henüz sahip değilsin:
- Sistem tasarımı (sen mevcudu kullanırsın, yenisini tasarlamazsın)
- Cross-team koordinasyon
- Performans tuning (sezgisel, derin değil)
Mentor figürün: Senior LLM Engineer veya Staff Engineer.
Maaş Gerçekçi Manzarası (2026)#
Maaşlar (1) lokasyon, (2) şirket tipi (frontier lab > scale-up > kurumsal), (3) seviye, ve (4) equity ile çarpışır. Aşağıdaki tablo base + bonus içeriyor; equity ayrı.
Önemli: Bu rakamlar 2026 başı orta-değerleridir. Frontier lab'larda (OpenAI, Anthropic, xAI) Staff+ seviyesinde total comp $1M+ istisnai değil. Türkiye'de ise USD bazlı remote çalışma çok daha yaygınlaştı.
Türkiye (2026, brut aylık TL, lokal sözleşme)#
| Seviye | Düşük | Orta | Yüksek | Notlar |
|---|---|---|---|---|
| Junior | 45k | 70k | 90k | Çoğunlukla startup veya in-house ekip |
| Mid | 80k | 120k | 160k | Burada ayrım açılır — domain + framework deneyimi belirleyici |
| Senior | 150k | 220k | 320k | Üst aralık genellikle USD'ye bağlı sözleşme |
| Staff | 280k | 400k | 600k+ | Çoğunlukla USD/EUR ile sözleşme + equity |
| Principal | 500k+ | 700k+ | 1M+ | Genelde uluslararası şirket remote pozisyon |
Global Remote (USD/yıl, 2026)#
| Seviye | Avrupa Scale-up | ABD Scale-up | Frontier Lab |
|---|---|---|---|
| Mid (L2) | €70–95k | $130–180k | $200–280k |
| Senior (L3) | €100–150k | $180–280k | $300–450k |
| Staff (L4) | €150–220k | $300–500k | $500–800k |
| Principal (L5) | €200–300k | $450–700k | $800k–1.5M |
Önemli Düzeltmeler#
- Equity: Startup'larda equity rakamı base'in 1-3x'ine kadar gidebilir (4 yıl vesting).
- Frontier lab özelinde: OpenAI ve Anthropic 2024-2025'te Staff seviyesinde 1.5M-3M equity over 4 years teklif paketleri rapor edildi.
- Remote prim: USD bazlı çalışma + Türkiye'de yaşama → satın alma gücü en yüksek senaryo.
🇹🇷 Türkiye pazarı için dürüst bir not
2026 itibarıyla Türkiye'de gerçek LLM Engineer pozisyonu sayısı hâlâ az — belki 200-400 kişi. Çoğu pozisyon AI Engineer (uygulama tarafı). Trendyol, Getir, Hepsiburada, Yapı Kredi, Garanti BBVA, İş Bankası, Turkcell, Türk Telekom, BiSU AI gibi şirketlerde içe-eğitim ve fine-tuning ekipleri büyüyor. Devlet tarafında TÜBİTAK BİLGEM, ASELSAN, Aselsan Konya, BTK son 2 yıldır agresif işe alıyor. Frontier lab pozisyonu Türkiye'den remote çok zor — vize/lokasyon/timezone engelleri var; ama tam-remote scale-up'lar (Cohere, Together, Replicate, Modal) Türkiye'den çalışan alıyor.
Bir LLM Engineer'ın Günü: Üç Senaryo#
Pratik resmi netleştirmek için üç farklı şirket tipinde bir günü canlandıralım.
Saat 9:00 — Slack'te dün gece arasındaki Langfuse alarmlarını kontrol et. Üç kullanıcı uzun yanıt sürelerinden şikayet etmiş.
9:30 — Sabah stand-up. CTO "Bu hafta hedef: fine-tune ettiğimiz Qwen-7B'yi prod'a alalım" diyor.
10:00 — Mevcut vLLM deployment'ında benchmark koşuyorsun. A100 → H100 farkını ölç. Quantization (AWQ vs GPTQ) karşılaştırması yap.
12:30 — Yemek. Aynı zamanda Eugene Yan'ın yeni blog yazısını oku — "LLM evaluation: what's actually working in 2026".
13:30 — Modal'da yeni bir endpoint deploy ediyorsun. → hata → docker image yeniden build.
modal deploy15:00 — Pazarlama ekibinden "Acil! Müşteri bir özel response istiyor" mesajı. 15 dakika içinde prompt'u düzeltip Langfuse'da version'lıyorsun.
16:00 — Yeni dataset toplama: Türkçe e-ticaret destek mesajları. Dedup pipeline'ını yaz.
18:00 — Akşam: GitHub'da vLLM repo'sunda bir issue'ya yorum yaz. Açık-kaynak katkı senin görünürlüğün.
Karakteristik: Hızlı, çok-yönlü, her gün yeni bir konu. Şirketin yarısı LLM ile haşır neşir; sen "AI Engineer / LLM Engineer / Backend / DevOps" hepsisin.
Bu Mesleğe Hangi Yolla Girersin?#
LLM mühendisliğine giriş tek bir yol yok. Aşağıda en yaygın 5 pivot yolunu göreceksin. Bu kurs bunların hepsine uyacak şekilde tasarlandı.
Yol 1: Backend Developer → LLM Engineer#
Önceki güçlü yanın: Sistem tasarımı, ölçeklenebilirlik, monitoring.
Eksiğin: ML matematik, model iç işleyişi.
Strateji: Bu kursun Part I (matematik) ve II (transformer) modüllerine ekstra hızlı zaman ayır. Part VI-VIII (inference, production) doğal güçlü tarafın.
Süre: 6-8 ay yoğun çalışma.
Yol 2: Data Scientist → LLM Engineer#
Önceki güçlü yanın: Eval, istatistiksel düşünme, deney tasarımı.
Eksiğin: Sistem mühendisliği, production deployment.
Strateji: Part VIII (production) ve VI (inference) sana en yeni gelen kısımlar olacak. Part IX (evaluation) doğal güçlü tarafın.
Süre: 8-10 ay.
Yol 3: ML Engineer (klasik) → LLM Engineer#
Önceki güçlü yanın: Model eğitimi, scikit-learn/XGBoost, hyperparameter tuning.
Eksiğin: LLM-spesifik teknikler (LoRA, RLHF, quantization), inference engines.
Strateji: Pivotun en kolayı. Part II-IV-VI sana yepyeni teknikleri tanıştıracak.
Süre: 4-6 ay.
Yol 4: Üniversite öğrencisi (henüz iş yok)#
Strateji: Bu kursu lineer takip et. Capstone'ları gerçekten yap — GitHub portfolyon mülakat için kritik. İlk capstone'dan sonra (3-4 ay) staj başvuruları yap.
Süre: 1 yıl + staj döngüsü.
Yol 5: Frontend / Designer / PM → AI Engineer → LLM Engineer#
Strateji: Önce AI Engineer ol (API ile uygulama yap). 1 yıl sonra bu kursla derinleş.
Süre: 18-24 ay.
⚠️ Kısayol yok — ama daha verimli yollar var
LinkedIn'de 'Become an LLM Engineer in 30 days' gibi başlıklar görürsen kaç. Gerçeklik: 6-12 ay ciddi çalışma + en az 3-5 yayınlanmış proje + en az 1 production deployment. Bu kurs bu sürede sana en verimli yol haritasını verir — ama yürümeyi sen yapacaksın.
Bu Kurs Seni Hangi Seviyeye Getirir?#
Bu kurs tek başına bir seviye garantisi vermez — ama doğru tamamlandığında sana şu kabiliyetleri kazandırır:
| Bu kursun tamamlanmış kısmı | Hangi seviyeye yeter? |
|---|---|
| Part I + II (matematik, transformer) | Junior mülakat hazırlığı |
| + Part III + IV (pre/post-training) | Mid LLM Engineer / Junior LLM Researcher |
| + Part VI + VII (inference, agent) | Senior AI Engineer / Mid LLM Engineer |
| + Part VIII + IX (production, eval) | Senior LLM Engineer |
| + 18 capstone bitmiş | Senior+ LLM Engineer (portfolyo destekli) |
Doğrudan iddia: Kursun tamamını ciddi şekilde bitiren bir kişi — özellikle 18 capstone'u GitHub/HuggingFace'de yayınlamış — Türkiye'deki çoğu Senior LLM Engineer mülakatını geçecek seviyede teknik derinliğe sahip olur.
Sıkça Karşılaşılan 5 Yanılgı#
1. "Yüksek Lisans olmadan LLM Engineer olunmaz."
Yanlış. Endüstri pozisyonlarının %70'inde Yüksek Lisans aranmıyor. Sadece AI Researcher pozisyonunda doktora yaygın. Frontier lab'lar bile portfolyoyu dereceye yeğliyor.
2. "Çok yüksek matematik gerekiyor."
Kısmen doğru. Pre-training veya research yapmak istersen evet. Fine-tuning, inference, agent, RAG için lise-üniversite başı seviyesi yeter — bu kursun Modül 1'i seni yetkin yapacak.
3. "İngilizcem yetersiz, geriyim."
Türkçe kaynak (bu kurs gibi) artık var; paper'ları çevirmek için Claude/ChatGPT var. Yine de iş ilanları ve kod İngilizce — pratik İngilizce şart, akademik değil.
4. "Bu sektör çok yakında kuruyacak, geç kaldım."
Tersi. 2026 itibarıyla AI/LLM yatırımları 2025'in 2.5 katı. Frontier lab'lar büyüyor; her şirket "AI strategy" istiyor. Önümüzde en az 5-7 yıllık güçlü büyüme görünür.
5. "Para çok iyi ama bu iş çok stresli."
Stres pozisyona göre değişiyor. Startup'ta her gün yeni hata; kurumsalda yavaş ama prosedürel. Frontier lab'larda hız aşırı. Burnout riski gerçek — sürdürülebilir hız bul.
Bu Derste Neler Öğrendik?#
✓ LLM Engineer, model + sistem + ürün yığınlarında çalışan T-şeklinde mühendistir
✓ ML Engineer, Data Scientist, AI Researcher, MLOps'dan ayrı bir disiplindir
✓ 8 yetkinlik atlası: matematik → tooling → transformer → pre/post-training → inference → RAG/Agent → production
✓ 6 kariyer seviyesi: Junior → Mid → Senior → Staff → Principal → Distinguished
✓ Türkiye'de Senior 150-320k TL/ay, ABD scale-up Staff $300-500k/yıl
✓ Bu kurs seni Senior+ seviyeye taşıyabilir (portfolyo + çalışma ile)
Sıradaki Ders#
0.2 — Kurs Felsefesi: Neden Bu Yol, Neden Bu Sıra
8 ay boyunca takip edeceğin bu yol haritasının arkasındaki pedagojik prensipleri öğreneceksin. Karpathy Zero-to-Hero'dan, Stanford CS336'dan, Hamel Husain pratiğinden ne aldık, ne ekledik?
Frequently Asked Questions
An AI Engineer builds products on closed APIs (OpenAI, Anthropic) and writes application logic. An LLM Engineer looks inside the model — fine-tunes it, optimizes inference engines, writes their own eval suite, and trains models from scratch when needed. AI Engineer is the 'API consumer'; LLM Engineer is the 'API producer'. Most Turkish companies post both under 'AI Engineer' — read the job description to spot the difference.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...
Related Content
Module 0: Course Framework & Workshop Setup
Course Philosophy: Why This Path, Why This Order — The Skeleton of an 8-Month Curriculum
Start LearningModule 0: Course Framework & Workshop Setup
Workshop Setup: uv, PyTorch 2.5+, CUDA, WSL2, Mac MPS, Triton, FlashAttention, Nsight
Start LearningModule 0: Course Framework & Workshop Setup