topiccore

Halüsinasyon Savunması

Citation zorla, ground et, verify et — üç-katmanlı savunma + post-hoc fact-check.

3 saat3 kaynak2 önkoşul

Katman 1 — Prompt: "Yalnız <sources> dışına çıkma, bilmiyorsan 'bilmiyorum' de, her iddia için kaynak ID ver" Katman 2 — Retrieval grounding: RAG ile context'i sıkı tut, model'in 'tahmin' alanını daralt Katman 3 — Post-hoc verification: Final cevap üretildikten sonra second LLM call ile "Bu cevap <sources>'a uygun mu?" diye check et

Citation mode — Anthropic Claude'da citations field native destekleniyor: her iddia hangi kaynağa dayandığını söyler.

Hallucination detection libraries: TruLens, Patronus AI, RAGAS.