Kavram SözlüğüMatematik, İstatistik ve Optimizasyon

Newton Yöntemi

Fonksiyonun hem eğim hem eğrilik bilgisini kullanarak daha hızlı yakınsama hedefleyen ileri optimizasyon yöntemi.

Newton yöntemi, yalnızca gradyan bilgisini değil, ikinci türev bilgisini de kullanarak optimizasyonu hızlandırmayı hedefler. Bu nedenle bazı problemlerde standart gradyan inişine göre çok daha hızlı yakınsayabilir. Ancak Hessian hesaplaması ve matris işlemleri nedeniyle büyük ölçekli modellerde maliyeti yükselebilir. Yine de teorik optimizasyon literatüründe ve daha küçük, düzgün davranan problemlerde son derece güçlüdür. Newton yaklaşımı, yalnızca “hangi yönde gitmeliyim?” değil, “yüzey burada nasıl kıvrılıyor?” sorusunu da dikkate alır.