Kavram SözlüğüDerin Öğrenme
ReLU Aktivasyon
Negatif girdileri sıfırlayıp pozitif girdileri doğrusal bırakan en yaygın modern aktivasyon fonksiyonu.
ReLU, modern derin öğrenmenin en etkili pratik buluşlarından biri olarak kabul edilir. Hesaplama açısından basit, türev açısından verimli ve derin ağlarda öğrenmeyi kolaylaştırıcı özelliklere sahiptir. Özellikle CNN ve tam bağlantılı ağlarda standart tercih haline gelmiştir. Ancak bazı nöronların sürekli negatif bölgede kalması sonucu öğrenmeyi bırakması, yani dying ReLU sorunu dikkatle izlenmelidir.
İlginizi Çekebilir
Yapay zeka yolculuğunuza devam etmek için bu kavramlara da göz atabilirsiniz.
