Kavram SözlüğüDoğal Dil İşleme
Causal Language Modeling
Bir sonraki tokenı yalnızca önceki bağlama bakarak tahmin etmeye dayanan otoregresif öğrenme hedefi.
Causal Language Modeling, büyük üretici dil modellerinin temel eğitim paradigmasıdır. Model, her adımda geçmiş tokenlara bakarak bir sonraki tokenı tahmin eder. Bu basit görünen hedef, yeterli veri ve ölçekle birlikte güçlü üretim, muhakeme ve uyarlanabilirlik özellikleri doğurabilir. Metin üretimi, kod üretimi ve çok amaçlı dil zekâsı sistemlerinin temelini oluşturur.
İlginizi Çekebilir
Yapay zeka yolculuğunuza devam etmek için bu kavramlara da göz atabilirsiniz.
