# Numerik Stabilite: Log-Sum-Exp, FP16 Tuzakları, NaN Avı — LLM Eğitiminin Gizli Saatleri

> Source: https://sukruyusufkaya.com/learn/llm-muhendisligi/numerik-stabilite-fp16-bf16-fp8-nan
> Updated: 2026-08-21T03:27:51.196Z
> Category: LLM Mühendisliği
> Module: Modül 1: AI Engineer'ın Matematiksel Cephaneliği
**TLDR:** Floating point representation (FP32, FP16, BF16, FP8), overflow/underflow/NaN avı, log-sum-exp trick, softmax sayısal stabilitesi, mixed precision training (autocast + GradScaler), pretrain loss spike'larının sayısal kökenleri.