Tüm roadmap'e dön
topicfoundation
Halüsinasyon Anatomisi
Model neden 'uydurur'? Sebepleri ve hangi prompt deseninin tetiklediğini bil.
2 saat3 kaynak1 önkoşul
Halüsinasyon = model bilmediği şeyi kendinden emin üretmesi. Sebepler:
- Bilgi gap'i — eğitim kesim tarihinden sonraki olaylar, niş alanlar
- Belirsiz prompt — model "tahmin etmek zorunda" hisseder
- Aşırı uzun output baskısı — istenen detay seviyesi gerçek bilgiden fazlaysa
- Yanlış few-shot — örnekler hatalıysa model pattern'i taklit eder
- Çelişen talimatlar — model en olası interpretasyona zorlanır
Mitigation:
- "Bilmiyorsan bilmiyorum de" cümlesi system'a
- RAG ile dış kaynaklara ground et
- "Cevabını kaynak gösterir gibi ver" + citation step
- Düşük temperature kritik görevlerde
- LLM-as-judge ile post-hoc verify
Neden öğreniyoruz?
Halüsinasyon production AI'ın bir numaralı düşmanı; nedenlerini bilmeden savunamazsın.
Ne kazanırsın?
Bir prompt'un halüsinasyon riskini sezgisel olarak tahmin edebilir, mitigation katmanlarını doğru sırayla uygularsın.