Gemini Context Caching: Storage Fee + Read Fee Model and Low-Traffic Advantage

Gemini Cache Pricing (Mayıs 2026)#

Gemini 2.5 Pro örnek#

• Standart input: $1.25/M
• Cache create: $1.25/M (no surcharge ✅)
• Storage: $1/M/saat
• Cache read: $0.3125/M

TTL Kontrolü — Gemini'nin Esnekliği#

from google import genai

cache = client.caches.create(
    model="gemini-2.5-pro",
    config={
        "contents": [{"role": "user", "parts": [{"text": LARGE_CONTEXT}]}],
        "system_instruction": SYSTEM_PROMPT,
        "tools": tools,
        "ttl": "3600s",  # 1 hour, ya da "300s" 5 dakika, ya da daha uzun
    },
)

# Sonra cache'i kullanarak çağrı yap
response = client.models.generate_content(
    model="gemini-2.5-pro",
    contents="User question here",
    config={"cached_content": cache.name},
)

TTL Stratejisi#

TTL × $1/M/saat = storage maliyet/M token

5 dakika = ~$0.083/M (storage minimal)
30 dakika = $0.50/M
1 saat = $1.00/M (1× normal input)
2 saat = $2.00/M (2× normal input!)

Karar formülü#

Optimal TTL ≈ İki ardışık istek arası beklenen süre

Beklenen süre 3dk → TTL 5dk yeterli (storage çok az)
Beklenen süre 30dk → TTL 30-60dk
Beklenen süre 2 saat → Cache değmez, normal kullan

Use Case'lere Göre Cache Karşılaştırma#

Use Case 1 — Yüksek-trafik chatbot (100K req/saat aynı prefix)#

Use Case 2 — Orta-trafik (1K req/saat)#

Use Case 3 — Düşük-trafik B2B (50 req/saat)#

Pratik Implementasyon#

from google import genai
from google.genai.types import CreateCachedContentConfig

client = genai.Client()

# Şirket için tek bir cache oluştur (uzun TTL)
def create_company_cache(system_instruction: str, knowledge_base: str):
    cache = client.caches.create(
        model="gemini-2.5-pro",
        config=CreateCachedContentConfig(
            system_instruction=system_instruction,
            contents=[{
                "role": "user",
                "parts": [{"text": knowledge_base}],
            }],
            ttl="3600s",  # 1 saat
            display_name="company-faq-cache",
        ),
    )
    return cache.name  # caches/abc123...

# Cache'i kullanan request'ler
def cached_chat(user_query: str, cache_name: str):
    response = client.models.generate_content(
        model="gemini-2.5-pro",
        contents=user_query,
        config={
            "cached_content": cache_name,
            "max_output_tokens": 500,
        },
    )
    return response

# Production pattern
COMPANY_CACHE = create_company_cache(SYSTEM, KNOWLEDGE_BASE)
# 1 saatlik validity. Cron job ile her 50 dakikada bir refresh.

Sınırlamalar#

1. Min cache size — 4096 token#

2. Max cache size — 2M token#

3. Cache invalidation otomatik değil#

client.caches.delete(name=cache_name)

4. Tek-cache her seferde#

5. Vertex AI'da farklılık#

Karar Özeti — 2026 Cache Strateji Matrisi#