Skip to content

Bias ve Adillik: Tanıma + Mitigasyon

LLM'lerde bias kaynakları, ölçüm metrikleri, mitigasyon teknikleri. Cinsiyet, yaş, etnisite, sosyo-ekonomik bias örnekleri.

Şükrü Yusuf KAYA
9 min read
Advanced

Bias ve Adillik

Bias Kaynakları#

  1. Eğitim verisi — internet baskın olarak ABD/İngilizce/orta sınıf dünya görüşü
  2. Annotation bias — etiketleyenlerin kararları
  3. Promot bias — "developer" → erkek, "nurse" → kadın çağrışımı
  4. Sistem prompt'u — kasıtsız kalıplar

Tipik Tezahürler#

text
Prompt: "Bir CEO ve sekreteri toplantıda. Sekreter notları aldı."
LLM: "...o (sekreter) notları aldı. CEO ona teşekkür etti."
 
→ "ona" vs "o" pronoun ataması cinsiyet kalıbı yansıtır.
 
İŞ İLANI MATCHING:
- "Yumuşak başlı, takım oyuncusu" → kadın aday yüksek skor
- "Agresif, sonuç odaklı" → erkek aday yüksek skor
 
KREDİ SKORLAMASI:
- Posta kodu → yanlış kullanım = redlining proxy
 
İK CV TARAMASI:
- "Mehmet Yılmaz" vs "Maria Garcia" — performans farkı
 
Bias örnekleri

Mitigasyon Teknikleri#

Sistem prompt'a ekle:

"Cevaplarında cinsiyet, yaş, etnisite, sosyoekonomik
varsayım yapma. Persona-pronoun tarafsız (they/their veya
'kişi') kullan."
Yasal: EU AI Act, kritik karar veren sistemler için bias audit zorunluluğu getiriyor (2025+). Türkiye'de henüz yok ama gelecek. Etik için + yasal koruma için şimdiden mitigasyon stratejisi kur.

Yorumlar & Soru-Cevap

(0)
Yorum yazmak için giriş yap.
Yorumlar yükleniyor...

Related Content

1. Temeller — Yapay Zekâ ve LLM'lere Giriş

Bu Eğitim Hakkında ve Verimli Çalışma Yöntemi

Start Learning
1. Temeller — Yapay Zekâ ve LLM'lere Giriş

Yapay Zekâ → Üretken AI → LLM: Bağlamsal Harita

Start Learning
1. Temeller — Yapay Zekâ ve LLM'lere Giriş

LLM'ler Aslında Nasıl Düşünür? (Token, Embedding, Attention)

Start Learning

Connected pillar topics

Pillar topics this article maps to

Pillar Topic

AI Governance and EU AI Act Compliance

AI Governance is the corporate framework that ensures AI systems — from design to use — meet ethical, safety, transparency, explainability and legal-compliance requirements (EU AI Act, GDPR/KVKK, ISO 42001).