# Long Context Extrapolation: NTK-Aware Scaling + YaRN + LongRoPE — 8K'dan 1M Token'a Yolculuk

> Source: https://sukruyusufkaya.com/learn/llm-muhendisligi/long-context-ntk-aware-yarn-longrope-extrapolation
> Updated: 2026-08-23T20:17:11.663Z
> Category: LLM Mühendisliği
> Module: Modül 9: Position Encoding — Sıraya İçkin Anlam
**TLDR:** RoPE'in long context'e genişletilmesi: NTK-aware scaling intuisyonu, YaRN (Peng 2023) — kapsamlı çözüm + temperature scaling, LongRoPE (Microsoft 2024) — 2M token context. Llama-3-8B base 8K → 128K extension reciplerine, Gemini 1.5 1M token tricks, fine-tune protokolü.