# EXL2 (ExLlamaV2): Variable Bitrate Quantization — Hangi Layer Hangi Bit?

> Source: https://sukruyusufkaya.com/learn/fine-tuning-cookbook/ftc-exl2-variable-bitrate-quantization
> Updated: 2026-08-17T23:18:28.329Z
> Category: Fine-Tuning Cookbook (Model-by-Model)
> Module: Part X — Quantization Engineering
**TLDR:** EXL2 — ExLlamaV2'nin native format'ı. Her layer için **farklı bit-width** seçebilir, hassas layer'lara fazla bit ayırır. Calibration ile her layer'ın 'sensitivity'sini ölç, bütçe içinde optimal dağılım. RTX 4090 önündeki tüketici için en hızlı LLM inference (vLLM yerine ExLlamaV2 batch=1'de 1.5-2x).