Halüsinasyon: Tanımı, Tanıma, Kaçınma
ChatGPT'nin 'gerçekmiş gibi' yanlış bilgi üretmesi. Niçin olur, nasıl tanırsın, nasıl kaçınırsın?
Şükrü Yusuf KAYA
9 dakikalık okuma
Orta
"Çok kendinden emin ama yanlış"#
Tanım
- Halüsinasyon (LLM bağlamında)
- LLM'in bilmediği bir bilgiyi gerçekmiş gibi üretmesi. Genellikle tutarlı ses tonunda, doğru gibi görünür. Modelin "uydurma yapmıyorum" demediği için tehlikeli.
Örnek: "Stanford'un 2023 araştırmasına göre..." dedikten sonra olmayan bir araştırmaya atıf yapması.
LLM'ler "olasılıksal" çalışır — bir sonraki kelimenin en olası olanı seçilir. Eğer eğitim verisinde "X yazarın 2023 makalesi" deseni sıkça geçtiyse, model "Y yazar 2024 makalesi" üretmekte sakınca görmez (formdan eminliği vardır, içerikten değil).
Halüsinasyon tek bir hata değil, 5+ tip:
- Olmayan kaynak/yazar
- Yanlış tarih
- Doğru başlangıç + uydurma sonuç
- Doğru kişi + yanlış olay
- Var olmayan teknoloji/ürün
text
Bu soruyu cevaplarken: 1. **Sadece bildiğin** bilgiyi kullan2. Emin olmadığın yer varsa "[Doğrulanmamış]" etiketi koy3. **Tüm sayısal veri** ve **alıntılar** için kaynak ver (URL, kitap, makale)4. Kaynağı bilmiyorsan: "Bu bilgi için kaynak bulamadım, doğrulamadan kullanma" de5. Bilmediğin konuda **uydurma**, "bu konuda kesin bilgim yok" de Soru: [...]Halüsinasyon önleyici prompt eki — copy-paste hazır.
⚠️ Gerçek örnek (2023): Avukatın halüsinasyon davası
ABD'li avukat Steven Schwartz, ChatGPT'ye dilekçe hazırlatmış. ChatGPT 6 önceki dava atıfı vermiş — hepsi uydurma. Avukat doğrulamadan mahkemeye sundu, hâkim cezalandırdı, lisansı tehlikeye girdi. Bu olay öğretici: doğrulama olmadan asla.
Özet#
✓ Halüsinasyon = uydurma ama emin
✓ Tanı: spesifik detay, az bilinen alan, atıf çelişkisi
✓ Kaçınma: web search, "bilmiyorsan söyle", kaynak iste, doğrula
✓ Reasoning modeller %50+ daha az halüsinasyon
Sıradaki ders: Bias ve önyargılar.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...
İlgili İçerikler
Modül 1: Başlangıç ve Temeller
ChatGPT Nedir? Tarihçe, Evrim ve Bugünün Manzarası
Öğrenmeye BaşlaModül 1: Başlangıç ve Temeller
Hesap Açma ve Plan Karşılaştırması: Free, Plus, Pro, Team, Enterprise
Öğrenmeye BaşlaModül 1: Başlangıç ve Temeller