Kavram SözlüğüMatematik, İstatistik ve Optimizasyon

Gradyan

Çok değişkenli bir fonksiyonun her değişkene göre türevlerini birlikte taşıyan yön ve büyüklük vektörü.

Gradyan, çok değişkenli bir fonksiyonun hangi yönde en hızlı arttığını gösteren vektördür. Her bileşeni ilgili parametreye göre türev bilgisini taşır. Makine öğrenmesinde gradyan, kayıp fonksiyonunun parametreler karşısında nasıl davranacağını anlamak ve parametreleri hangi yönde güncellemek gerektiğini belirlemek için kullanılır. Bu nedenle gradyan, optimizasyonun pusulası gibidir. Tüm modern eğitim algoritmaları doğrudan ya da dolaylı olarak bu bilgiye dayanır.