Sistem Tasarımı + Kod + Davranışsal + Maaş Görüşmesi

• Soru tipleri: ürün soruları, iade/şikayet, sipariş takip, genel sorular?
• Dil: sadece Türkçe yoksa TR+EN+AR multimodel?
• Latency hedefi: <2sn first token, <10sn complete?
• Doğruluk: hallucination tolere etmek istemiyoruz; iadeler kritik
• Maliyet bütçesi: kullanıcı başına $0.10-0.50 makul?

• 5M ürün × 5 chunk/ürün = 25M chunk
• Embedding:
  intfloat/multilingual-e5-large
  (1024 dim)
• Storage: pgvector (HNSW index, 25M × 1024 × 4byte = 100GB; uygun)
• Update: SKU değişikliği webhook → 5-15dk içinde reindex

• 50K eş zamanlı session × peak 5 req/min = 4K RPS
• Router LLM (Haiku, ~50ms): %80 sorular küçük modele yönlendirilir → maliyet 5x azalır
• RAG retrieval: top-20 → BGE re-rank → top-5
• Generation: Claude Opus 4, streaming, temp=0
• Citation validator: cevap içindeki iddialar kaynak chunk'larda var mı (LLM-as-judge)

• LLM API down: graceful degradation → human escalation
• pgvector down: read-only cache; reads from replica
• Maliyet patlaması: rate limit per user (50 mesaj/saat) + alarm

• Aylık: ~$200K (Claude Opus 4 ana cost) → cache + routing ile$50K'ya düş
• Alternatif: Self-host Trendyol-LLM-70B → aylık $30K compute ama %15-20 kalite düşüşü
• A/B test ile geçiş kararı

• "Yeni ürün eklendiğinde indeksleme ne kadar sürer?"
• "Bir kullanıcı yıllar öncesi sözleşme detayını soruyorsa?" → context window strategy
• "Hallucination yüzünden müşteriye yanlış iade vaadi verildi, ne yaparsın?" → guardrail + insan onayı

def naive_topk(query, docs, k=10):
    sims = []
    for doc in docs:  # 10M iterasyon
        sim = np.dot(query, doc) / (np.linalg.norm(query) * np.linalg.norm(doc))
        sims.append(sim)
    return np.argsort(sims)[-k:]

def topk_cosine(query, docs, k=10):
    # Önceden L2 normalize edilmiş olduğunu varsay (production'da bir kez yap)
    query_norm = query / np.linalg.norm(query)
    docs_norm = docs / np.linalg.norm(docs, axis=1, keepdims=True)

    # Tek matrix multiply — BLAS hızlandırması
    sims = docs_norm @ query_norm  # shape (10M,)

    # np.argpartition O(N) — argsort O(N log N)'den hızlı
    top_k_idx = np.argpartition(sims, -k)[-k:]
    return top_k_idx[np.argsort(sims[top_k_idx])][::-1]

• Pre-normalize docs (offline):
  docs_norm
  cache et
• Batch query: 100 query × 10M doc → single matmul (100 × 1024) @ (1024 × 10M) = (100 × 10M)
• ANN (FAISS, HNSW): O(log N) yaklaşık arama; %99 recall ile 100x daha hızlı

• "10M vektör belleğe sığmazsa?" → mmap, FAISS disk index
• "Online sürekli yeni doc ekleniyor?" → incremental HNSW (FAISS, hnswlib)
• "GPU varsa?" → cuBLAS ile 10-100x hızlanma

• Brute force ile bitirmek (optimization göstermemek)
• BLAS'ı bilmemek
• ANN konseptini atlamak

S: 2024'te Trendyol'da kişisel öneri sistemi için yeni bir Two-Tower model deploy ettim. Offline metric'lerde +%8 CTR iyileşmesi gösterdi.

T: A/B test'i ben yürütüyordum, deployment kararı bana aitti.

A: Offline metric'lere güvenip %20'lik trafikle canary deploy ettim. Ama production'da CTR aslında -%3 düştü. Hemen rollback yapmadım — bir gün daha bekledim, hata "noise'tır" diye düşünerek. İkinci gün GMV de düştü; o zaman rollback yaptım. Sonra root cause analysis: feature pipeline'da training ile serving arasında bir tutarsızlık vardı — training'de bir feature normalize edilmişti, serving'de ham değer veriliyordu (training-serving skew).

R: 24 saatlik gecikme bize yaklaşık ₺400K kayıp ettirdi. Çıkardığım dersler: (1) Offline-online metric divergence olduğunda anında rollback yap, inceleme sonra. (2) Feature pipeline parity için CI testi yazdık. (3) Shadow deployment'ı production öncesi standart haline getirdik. Bir sonraki deploy'da aynı tuzağı yakaladık — şimdi tüm ekibimiz bu süreç takip ediyor.

• Sahiplenme (suç atmama)
• Net sayı (₺400K, 24 saat)
• Yapılandırılmış ders çıkarma (3 madde)
• Ders'in eylemlere dönüştüğünü göstermek (CI test, shadow deploy)

• Coderspace Maaş Raporu (yıllık, açık)
• yazilimcimaaslari.org (community-driven)
• Glassdoor TR (gerçek deneyimler)
• LinkedIn Salary Insights (network'ünden gerçek veri)
• Türkiye Yapay Zeka İnisiyatifi Discord — anonim sorular sorabilirsin

• Levels.fyi (FAANG + büyük tech)
• AI Hardware compensation database (özelleştirilmiş)
• HackerNews Hiring threads

• Walk-away (alt sınır): bu rakamın altına asla razı olma
• Hedef: makul olarak isteyebileceğin
• Aspirational: piyasada ALL-TIME üst, deneme

• Walk-away: ₺200K/ay (TC + base + benefits)
• Hedef: ₺250-280K/ay
• Aspirational: ₺350K/ay (Trendyol senior band)