İçeriğe geç
Tüm roadmap'e dön
topiccore

Agent Context Window Yönetimi

Uzun trajectory'lerde context patlar — summary, pruning, sliding window mecburi.

2 saat1 kaynak

Agent loop 20 adım sürerse, her tool result'la birlikte context 50K → 200K token'a çıkabilir. Bu hem pahalı hem lost-in-the-middle etkisi yaratır.

Stratejiler:

  1. Sliding window: sadece son N mesajı tut. Eski'ler özetlenir.
  2. Tool result summarization: her tool çıktısı 500+ token ise, otomatik özetle.
  3. Scratchpad pattern: model uzun reasoning'i ayrı bir <scratchpad> alanına yaz, kontekste sadece özet kalsın.
  4. Periodic compression: her 5 turn'de bir conversation'ı özetle, eskileri at.
  5. Retrieval over context: geçmiş gözlemleri vector DB'ye yaz, gerektiğinde getir.

Anthropic Memory Tool (2025): Claude'a "remember X" ve "recall X" tool'ları ver — kalıcı bellek otomatik.

Kaynaklar(1)

İlgili adımlar

Agent Context Window Yönetimi · AI Agent Engineer Yol Haritası | SYK