Closed-FT vs Self-Hosted FT Karar Matrisi: TCO + Latency + Data Residency + KVKK
Cookbook'un Part XIV özet kararı: closed API FT vs self-hosted open FT. 6 boyutta karşılaştırma: TCO (1 yıllık tahmini), latency (P50/P95), data residency (TR/EU/US), KVKK uyumu, model özgürlüğü (versioning, lisans, deploy), kalite. 4 use-case için tipik kararlar.
Şükrü Yusuf KAYA
26 dakikalık okuma
Orta
1. 6-Boyut Karar Matrisi#
| Boyut | Closed API FT | Self-Hosted FT |
|---|---|---|
| TCO (1 yıl) | OPEX (saatlik) | CAPEX (rig) + OPEX (elektrik) |
| Latency | API overhead 100-300ms | local 50ms |
| Data residency | OpenAI US, Anthropic US/EU, AWS multi-region | tam kontrol |
| KVKK | OpenAI ToS okuma + DPA | tam compliant |
| Model freedom | tied to provider | tam özgür |
| Kalite | GPT-5/Claude-3.7 SOTA | Llama 3.3 70B en yakın |
2. 4 Use-Case Karar Tablosu#
| Use case | Cookbook tavsiye |
|---|---|
| Startup MVP, 1000 user/gün | Closed (OpenAI GPT-4o-mini FT) |
| TR finans/bankacılık (KVKK kritik) | Self-hosted (Qwen 2.5 7B + on-prem) |
| 100K user/gün, high traffic | Self-hosted (cost ekonomi) |
| Research / paper | Self-hosted (reproducibility) |
| Quick experimentation | Closed (no infra setup) |
| TR kamu/devlet | Self-hosted (yerel veri) |
✅ Part XIV tamamlandı
- Kendi use-case'in için karar matrisini doldur. 2) Sonraki Part: Part XVI — Production Operations.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...
İlgili İçerikler
Part 0 — Engineering Foundations
Fine-Tuning Cookbook'a Hoş Geldin: Sistematik, Stage Taksonomisi ve Reproducibility Kontratı
Öğrenmeye BaşlaPart 0 — Engineering Foundations
Reproducibility Stack: Seeds, cuDNN Flags ve Deterministic CUDA — 'Sende Niye Çalışıyor Bende Çalışmıyor' Sorununu Bitir
Öğrenmeye BaşlaPart 0 — Engineering Foundations