# Numerik Stabilite: Log-Sum-Exp, FP16 Tuzakları, NaN Avı — LLM Eğitiminin Gizli Saatleri

> Source: https://sukruyusufkaya.com/learn/llm-muhendisligi/numerik-stabilite-fp16-bf16-fp8-nan
> Updated: 2026-11-18T02:57:57.667Z
> Category: LLM Mühendisliği
> Module: Modül 1: AI Engineer'ın Matematiksel Cephaneliği
**TLDR:** Floating point representation (FP32, FP16, BF16, FP8), overflow/underflow/NaN avı, log-sum-exp trick, softmax sayısal stabilitesi, mixed precision training (autocast + GradScaler), pretrain loss spike'larının sayısal kökenleri.

