Skip to content

Bağlam Yerleştirme: Lost-in-the-Middle Önleme + Citation

Retrieve edilen chunk'ları LLM prompt'una nasıl yerleştirirsin? Sıralama, ayraçlar, citation enforcement.

Şükrü Yusuf KAYA
9 min read
Intermediate

Bağlam Yerleştirme ve Citation

RAG Prompt Şablonu#

text
<documents>
  <document index="1">
    <source>policy.pdf, p.12</source>
    <content>
[Chunk içeriği]
    </content>
  </document>
  <document index="2">
    <source>faq.md, section "Refunds"</source>
    <content>
[Chunk içeriği]
    </content>
  </document>
</documents>
 
Yukarıdaki belgeleri kullanarak şu soruyu cevapla:
 
<question>
{kullanıcı sorusu}
</question>
 
KURALLAR:
- Sadece <documents> içindeki bilgiyi kullan
- Bilgi yoksa "Bu bilgi mevcut değil" de
- Her cümleden sonra [doc-1] gibi citation ekle
- Citation olmadan iddia etme
 
Cevap:
Production-grade RAG prompt

Citation Enforcement#

text · diff modu
Senin kodun
Hedefe karşı diff
+ Cevap (citation'lı):
+ "Şirketin iade süresi 14 gündür [doc-1, p.12]. Müşteri
+ hizmetlerine 0850-XXX numarasından ulaşabilirsiniz [doc-2]."
- Cevap (citation'sız):
- "Şirketin iade süresi 14 gündür. Müşteri hizmetlerine
- 0850-XXX numarasından ulaşabilirsiniz."
Citation = audit trail + hallucination detection
Lost-in-the-middle: 10+ chunk verirsen ortadakiler kaçırılabilir. Çözüm: top-5'e in (rerank), önemli chunkları başa veya sona yerleştir.

Yorumlar & Soru-Cevap

(0)
Yorum yazmak için giriş yap.
Yorumlar yükleniyor...

Related Content

1. Temeller — Yapay Zekâ ve LLM'lere Giriş

Bu Eğitim Hakkında ve Verimli Çalışma Yöntemi

Start Learning
1. Temeller — Yapay Zekâ ve LLM'lere Giriş

Yapay Zekâ → Üretken AI → LLM: Bağlamsal Harita

Start Learning
1. Temeller — Yapay Zekâ ve LLM'lere Giriş

LLM'ler Aslında Nasıl Düşünür? (Token, Embedding, Attention)

Start Learning