# GPU Bellek Bütçesinin Anatomisi: W + G + O + A + B — RTX 4090'daki 24GB'ı Atomları Görerek Yönet

> Source: https://sukruyusufkaya.com/learn/fine-tuning-cookbook/ftc-gpu-memory-budgeting-w-g-o-a-b
> Updated: 2026-08-23T04:04:35.011Z
> Category: Fine-Tuning Cookbook (Model-by-Model)
> Module: Part I — Hardware & Memory Engineering
**TLDR:** Fine-tuning'de en sık duyduğun cümle: 'OOM'. Bu ders OOM'u bir daha **hiç** rastgele yaşatmayacak. Weights/Grads/Optimizer/Activations/Buffers bütçesini paramparça aç; AdamW'nin niye 8 byte/param, Lion'un 4 byte/param istediğini, NF4'ün niye 0.5 byte/param ile çalışabildiğini matematiksel olarak kavra. Llama 3.1 8B'yi 24GB'a 4 ayrı yöntemle sığdır.

