İçeriğe geç

Notion AI: Workspace Context Engineering

Notion AI workspace içinde 'Q&A from your docs'. Her user'ın binlerce sayfası var. Bunu uçtan uca cache'lemek pratik mi?

Şükrü Yusuf KAYA
11 dakikalık okuma
Orta

Notion AI: Workspace Cache Challenge

Notion AI özel bir use case:
  • 10M+ user, her birinin kendi workspace'i (private dokümanlar)
  • Workspace başına 100-10K sayfa
  • User soruyor: "Geçen ay product roadmap'imizde ne karar verdik?"
Zorluk: Her user'ın workspace'i farklı, ayrı cache pool gerekir. 10M cache pool feasible mı?

Notion'ın Çözümü (Inferred)#

Cache Pool Stratejisi#

Notion'ın olası yaklaşımı:
Hot users (sık AI kullananlar):
  • Workspace'in en aktif kısımları cache'lenmiş
  • ~50K token, 1h TTL
  • User sorgu attığında cache hit
Cold users (nadir kullananlar):
  • Cache yok
  • Vector DB retrieval ile dinamik context
  • Cache write overhead'i karşılanmaz
Eviction: LRU — son N gün AI kullanmamış user'ın cache'i evicted.

Workspace İzolasyonu#

Her workspace ayrı tenant. Cache pool izolasyonu zorunlu. Modül 10 Ders 68'te gördük:
  • Tenant-prefixed prompts (workspace_id ile)
  • Per-workspace cache pool (provider tarafında zaten izole)
  • KVKK uyumu için anchor edilmesi şart
Türk SaaS Uygulaması
Notion AI işleri için multi-tenant pattern Türk SaaS startup'ları için altın model. Aynı multi-workspace yapısını e-ticaret (her satıcı kendi mağaza KB'i), eğitim (her okul kendi kuralları) gibi senaryolara uygula.

Cost Optimization#

Notion AI'nın bilinen davranışları:
  • Free user'larda günlük rate limit
  • AI Pro $10/ay → unlimited (rate-limited ama generous)
  • Underneath: GPT-4o + GPT-4o-mini hybrid (kompleks sorgular Pro, basit summary'ler Mini)
Caching ile AI Pro'yu ekonomik tutuyorlar.

✓ Pekiştir#

Bir Sonraki Derste#

Türkçe vaka: E-ticaret asistanı caching mimarisi.

Yorumlar & Soru-Cevap

(0)
Yorum yazmak için giriş yap.
Yorumlar yükleniyor...

İlgili İçerikler