Kavram SözlüğüMatematik, İstatistik ve Optimizasyon

BFGS

İkinci türev bilgisini yaklaşık olarak kullanarak verimli yakınsama sağlayan kuazi-Newton optimizasyon yöntemi.

BFGS, Newton yönteminin gücünü korumaya çalışırken Hessian hesaplama maliyetini azaltan kuazi-Newton sınıfı bir optimizasyon algoritmasıdır. İkinci türev bilgisini tam hesaplamaz; bunun yerine akıllı yaklaşıklarla optimizasyonu hızlandırır. Bu özelliği sayesinde birçok düzgün ve orta ölçekli problemde oldukça etkilidir. İstatistiksel tahmin, mühendislik optimizasyonu ve bazı klasik makine öğrenmesi problemlerinde güçlü sonuçlar verir. BFGS, “tam ikinci dereceden bilgi pahalıysa, iyi bir yaklaşık kullan” fikrinin başarılı örneklerinden biridir.