Notion AI: Workspace Context Engineering
Notion AI workspace içinde 'Q&A from your docs'. Her user'ın binlerce sayfası var. Bunu uçtan uca cache'lemek pratik mi?
Şükrü Yusuf KAYA
11 min read
IntermediateNotion AI: Workspace Cache Challenge
Notion AI özel bir use case:
- 10M+ user, her birinin kendi workspace'i (private dokümanlar)
- Workspace başına 100-10K sayfa
- User soruyor: "Geçen ay product roadmap'imizde ne karar verdik?"
Zorluk: Her user'ın workspace'i farklı, ayrı cache pool gerekir. 10M cache pool feasible mı?
Notion'ın Çözümü (Inferred)#
Cache Pool Stratejisi#
Notion'ın olası yaklaşımı:
Hot users (sık AI kullananlar):
- Workspace'in en aktif kısımları cache'lenmiş
- ~50K token, 1h TTL
- User sorgu attığında cache hit
Cold users (nadir kullananlar):
- Cache yok
- Vector DB retrieval ile dinamik context
- Cache write overhead'i karşılanmaz
Eviction: LRU — son N gün AI kullanmamış user'ın cache'i evicted.
Workspace İzolasyonu#
Her workspace ayrı tenant. Cache pool izolasyonu zorunlu. Modül 10 Ders 68'te gördük:
- Tenant-prefixed prompts (workspace_id ile)
- Per-workspace cache pool (provider tarafında zaten izole)
- KVKK uyumu için anchor edilmesi şart
Türk SaaS Uygulaması
Notion AI işleri için multi-tenant pattern Türk SaaS startup'ları için altın model. Aynı multi-workspace yapısını e-ticaret (her satıcı kendi mağaza KB'i), eğitim (her okul kendi kuralları) gibi senaryolara uygula.
Cost Optimization#
Notion AI'nın bilinen davranışları:
- Free user'larda günlük rate limit
- AI Pro $10/ay → unlimited (rate-limited ama generous)
- Underneath: GPT-4o + GPT-4o-mini hybrid (kompleks sorgular Pro, basit summary'ler Mini)
Caching ile AI Pro'yu ekonomik tutuyorlar.
✓ Pekiştir#
Bir Sonraki Derste#
Türkçe vaka: E-ticaret asistanı caching mimarisi.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...
Related Content
1. Temeller — Context Penceresi Ekonomisi
Bu Eğitim Hakkında ve Prompt Caching Neden Önemli?
Start Learning1. Temeller — Context Penceresi Ekonomisi
Token Ekonomisi 101: Input vs Output Cost Asimetrisi
Start Learning1. Temeller — Context Penceresi Ekonomisi