# Continual Pre-training TR: Catastrophic Forgetting Önleme + Replay Buffer

> Source: https://sukruyusufkaya.com/learn/fine-tuning-cookbook/ftc-tr-continual-pretraining-replay
> Updated: 2026-08-15T15:23:54.086Z
> Category: Fine-Tuning Cookbook (Model-by-Model)
> Module: Part IX — Türkçe-First & Yerelleştirme Mühendisliği
**TLDR:** Continual pre-train ana risk: model TR öğrenirken İngilizce capability'sini kaybediyor. Replay buffer (her batch'te %10-15 EN örnek), LR warmup tasarımı, learning rate'in pre-train original'in 1/10-1/50'si olması gerektiği. RTX 4090 + Llama 8B + 2B token TR continual PT 24 saatte mümkün.