İçeriğe geç
Tüm roadmap'e dön
topicfoundation

Context Window

Modelin tek seferde 'hatırlayabildiği' token sayısı. Bilmen şart.

2 saat2 kaynak1 önkoşul

Her modelin bir context limit'i vardır: GPT-4o ≈ 128K, Claude 4.7 (1M) → 1M, Gemini 2.x ≈ 2M. Limit aşılırsa istek reddedilir veya başlangıçtan kesilir.

Önemli detay: Uzun bağlamda model "lost in the middle" etkisine girer — başta ve sondaki bilgiyi hatırlar, ortayı zayıflatır. Bu yüzden:

  • Kritik talimatları başa VE sona koy
  • Uzun bağlamda yapı oluştur (XML/markdown sectionlar)
  • Gerekirse multi-turn ya da RAG'a böl

Önce bunları bil

Kaynaklar(2)