Derin Öğrenme
Derin Öğrenme alanındaki 119 terim — her biri Türkçe-İngilizce tanımlı, ilgili kavramlara bağlı.
En Çok Okunanlar
Tüm Terimler (119)
Additive Attention
Sorgu ve bağlam temsillerini öğrenilebilir bir birleşim fonksiyonu ile karşılaştıran erken dönem dikkat yaklaşımı.
Atlama Bağlantısı
Bilginin bazı katmanları atlayarak ileri taşınmasına izin veren ve eğitim kararlılığını artıran mimari bağlantı.
Attention
Modelin karar verirken girdinin hangi bölümlerine daha fazla odaklanacağını öğrenmesini sağlayan mekanizma.
Attention Mask
Modelin dikkat hesaplamasında hangi konumları görebileceğini veya göremeyeceğini belirleyen kontrol yapısı.
Attention Skor Matrisi
Bir sekans içindeki öğelerin birbirine ne kadar dikkat vereceğini sayısal olarak temsil eden matris yapı.
Autoencoder
Veriyi sıkıştırıp yeniden üretmeye çalışarak düşük boyutlu temsil öğrenen sinir ağı yapısı.
Aşırı Parametreleme
Modelin veri miktarına kıyasla çok yüksek parametre kapasitesine sahip olması durumu.
Batch Normalization
Ara katman aktivasyonlarını mini-batch düzeyinde normalize ederek eğitimi hızlandıran ve kısmen düzenlileştiren teknik.
Bağlam Penceresi
Bir Transformer modelinin tek seferde işleyebildiği maksimum sekans uzunluğu.
Bağlantı Tahmini
Grafik yapısında mevcut olmayan ama oluşma olasılığı yüksek kenarları tahmin etmeye yönelik görev.
Beta-VAE
Latent uzayda daha ayrışmış faktörler öğrenmek için VAE düzenlileştirmesini güçlendiren varyasyonel model.
Bottleneck Katmanı
Modeli bilgiyi sıkıştırmaya zorlayarak daha öz temsil öğrenmesini sağlayan dar ara katman.
Checkpointed Backpropagation
Bellek kullanımını azaltmak için bazı ara aktivasyonları saklamayıp gerektiğinde yeniden hesaplayan eğitim tekniği.
Contractive Autoencoder
Girdi perturbasyonlarına duyarlı olmayan daha kararlı latent temsiller öğrenmek için ek ceza kullanan autoencoder türü.
Cross-Attention
Bir temsil kümesinin başka bir temsil kümesinden bağlam almasını sağlayan dikkat mekanizması.
CutMix
Görüntülerin parçalarını ve etiketlerini birlikte karıştırarak daha güçlü görsel düzenlileştirme sağlayan teknik.
Decoder-Only Transformer
Otokorelasyonlu biçimde bir sonraki tokenı tahmin ederek üretim yapan modern büyük dil modeli mimarisi.
Denoising Autoencoder
Bozulmuş girdiden temiz çıktıyı yeniden üretmeye çalışarak daha sağlam temsiller öğrenen autoencoder türü.
Depthwise Separable Convolution
Uzamsal ve kanal dönüşümlerini ayırarak CNN hesaplama maliyetini düşüren verimli evrişim yapısı.
Derin Sinir Ağı
Birden fazla gizli katmanla hiyerarşik özellik öğrenen genel sinir ağı yapısı.
Dilated Convolution
Filtre elemanları arasına boşluklar koyarak receptive field'ı büyüten evrişim tekniği.
Dropout
Eğitim sırasında bazı nöronları geçici olarak devre dışı bırakarak aşırı uyumu azaltan düzenlileştirme tekniği.
Düğüm Sınıflandırma
Grafik üzerindeki her düğüm için etiket tahmini yapmaya odaklanan temel GNN görevi.
ELU
Negatif bölgede yumuşak üstel davranış göstererek daha dengeli aktivasyon dağılımı üretmeyi amaçlayan fonksiyon.
Early Stopping
Doğrulama performansı bozulmaya başladığında eğitimi durdurarak aşırı uyumu önleyen strateji.
Encoder-Decoder RNN
Giriş sekansını sıkıştırılmış bağlama dönüştürüp oradan çıktı sekansı üreten klasik sıralı mimari.
Encoder-Decoder Transformer
Girdi sekansını kodlayıp çıktı sekansını bağlamsal olarak üreten klasik Transformer mimarisi.
Encoder-Only Transformer
Bağlamsal temsil öğrenmeye odaklanan ve çoğunlukla anlama görevlerinde kullanılan Transformer mimarisi.
Evrensel Yaklaştırma Teoremi
Yeterli kapasiteye sahip bir sinir ağının çok geniş bir fonksiyon sınıfını yaklaşık olarak öğrenebileceğini ifade eden kuramsal sonuç.
Evrişim
Yerel filtreler kullanarak uzamsal örüntüleri yakalayan CNN'lerin temel işlemi.
Exposure Bias
Eğitimde doğru geçmiş bağlamı gören modelin çıkarımda kendi hatalı geçmişiyle karşılaşması sorunu.
GELU Aktivasyon
Girdileri sert eşik yerine olasılıksal yumuşaklıkla dönüştüren modern aktivasyon fonksiyonu.
GNN'de Oversmoothing
Çok fazla mesaj geçişi sonrası düğüm temsillerinin birbirine aşırı benzemesiyle ayrıştırma gücünün kaybolması sorunu.
GRU
LSTM'ye göre daha sade kapı yapısıyla sekans bağımlılıklarını öğrenen tekrarlayan ağ birimi.
Gated Linear Unit
Doğrusal sinyali kapı mekanizmasıyla filtreleyerek daha seçici bilgi akışı sağlayan aktivasyon benzeri yapı.
Geri Yayılım
Kayıp fonksiyonunun gradyanını katmanlar boyunca geriye taşıyarak ağırlıkları güncelleyen temel öğrenme mekanizması.
Gizli Durum
Sekans modellerinde geçmiş bilgiyi taşıyan ve zaman boyunca güncellenen iç temsil vektörü.
Gizli Katman Genişliği
Bir katmandaki nöron sayısını ifade eden ve model kapasitesini doğrudan etkileyen temel mimari kavram.
Gradyan Akışı
Öğrenme sinyalinin ağ katmanları boyunca ne kadar sağlıklı taşındığını ifade eden temel eğitim dinamiği kavramı.
Gradyan Gürültü Ölçeği
Stokastik optimizasyonda gradyan tahminlerinin ne kadar gürültülü olduğunu karakterize eden eğitim dinamiği ölçütü.
Gradyan Kontrolü
Analitik gradyanların sayısal yaklaşıklarla karşılaştırılarak doğrulanmasını sağlayan hata ayıklama tekniği.
Gradyan Patlaması
Geri yayılım sırasında gradyanların aşırı büyüyerek eğitimi kararsız hale getirdiği optimizasyon sorunu.
Grafik Attention Ağı
Komşu düğümlerin katkılarını eşit değil öğrenilmiş dikkat ağırlıklarıyla birleştiren GNN mimarisi.
Grafik Evrişim Ağı
Düğüm komşuluk bilgisini kullanarak grafik yapılar üzerinde temsil öğrenen temel GNN mimarisi.
Grafik Pooling
Grafikteki düğüm bilgisini daha özet ve görev odaklı temsillere indirgemeyi amaçlayan GNN işlemi.
Grafik Sınıflandırma
Tüm grafiğe tek bir etiket atamaya odaklanan grafik öğrenme görevi.
Graph Isomorphism Network
Grafik yapılarını ayırt etme gücünü teorik olarak güçlendirmeyi amaçlayan GNN mimarisi.
GraphSAGE
Komşu örneklemeyi kullanarak büyük ölçekli grafiklerde temsil öğrenmeyi ölçeklenebilir hale getiren GNN yöntemi.
Hard-Swish Aktivasyonu
Swish benzeri davranışı daha düşük hesaplama maliyetiyle sunmayı amaçlayan verimli aktivasyon fonksiyonu.
Hesaplama Grafiği
Model işlemlerini düğümler ve bağlantılar halinde temsil ederek otomatik türev almayı kolaylaştıran yapı.
Hessian-Vektör Çarpımı
İkinci mertebe bilgiye tam Hessian matrisi oluşturmadan erişmeyi sağlayan hesaplama tekniği.
Heterojen Grafik Sinir Ağı
Farklı düğüm ve ilişki türlerini aynı grafik içinde modelleyebilen gelişmiş GNN yapısı.
Hücre Durumu
LSTM mimarisinde uzun dönem bilgiyi daha doğrudan taşıyan hafıza yolu.
Kanal Attention
Tüm özellik kanallarını eşit görmek yerine daha bilgilendirici kanalları vurgulayan dikkat mekanizması.
Key-Value Cache
Otokorelasyonlu Transformer üretiminde önceki dikkat temsillerini saklayarak çıkarımı hızlandıran mekanizma.
Komşuluk Toplama
Bir düğümün komşularından bilgi toplayarak temsilini güncellemesini sağlayan temel GNN işlemi.
Kısaltılmış BPTT
Uzun sekanslarda geri yayılımı sınırlı pencere üzerinde yaparak eğitimi daha hesaplanabilir hale getiren yöntem.
LSTM
Uzun dönem bağımlılıkları öğrenmek için kapı mekanizmaları kullanan gelişmiş tekrarlayan ağ yapısı.
Latent Manifold
Verinin düşük boyutlu ve anlamlı yapısının latent uzayda düzenli bir manifold olarak temsil edilmesi fikri.
Latent Uzay İnterpolasyonu
Latent temsil noktaları arasında geçiş yaparak modelin öğrendiği yapının sürekliliğini inceleme tekniği.
Layer Normalization
Aktivasyonları örnek bazında normalize ederek özellikle sekans modellerinde daha kararlı eğitim sağlayan teknik.
Leaky ReLU
Negatif bölgede küçük ama sıfır olmayan eğim bırakarak dying ReLU sorununu hafifletmeye çalışan aktivasyon fonksiyonu.
Linear Attention
Attention hesaplamasını daha ölçeklenebilir hale getirmek için karmaşıklığı yaklaşık doğrusal düzeye indirmeyi hedefleyen yaklaşım.
Masked Language Modeling
Girdideki bazı tokenları gizleyip bunları bağlamdan tahmin etmeye dayanan ön eğitim hedefi.
Mesaj Geçişli Sinir Ağı
Düğümler arasında mesaj alışverişi mantığıyla grafik yapıda bilgi güncellemesi yapan genel GNN çerçevesi.
Mish Aktivasyonu
Yumuşak ve kendi içinde düzenli eğim yapısıyla dikkat çeken modern aktivasyon fonksiyonu.
Mixup
Eğitim örneklerini ve etiketlerini karıştırarak modelin daha yumuşak karar sınırları öğrenmesini sağlayan veri temelli düzenlileştirme tekniği.
Multi-Head Attention
Dikkat işlemini birden fazla alt uzayda paralel yürüterek farklı ilişki türlerini öğrenen yapı.
Ölçeklenmiş Noktasal Çarpım Attention
Sorgu ve anahtar vektörleri arasındaki benzerliği ölçekleyerek dikkat ağırlıkları üreten temel Transformer işlemi.
Örtük Türev Alma
Doğrudan açık biçimde yazılmayan çözümler veya denge koşulları üzerinden türev hesaplama yaklaşımı.
Özellik Haritası
Bir evrişim katmanının belirli filtreler aracılığıyla çıkardığı uzamsal aktivasyon temsili.
Özellik Hiyerarşisi
Alt katmanlardan üst katmanlara doğru gidildikçe daha soyut temsillerin öğrenilmesi yapısı.
Özellik Piramidi Ağı
Farklı ölçeklerdeki görsel bilgiyi birleştirerek çok ölçekli nesne algısını güçlendiren mimari yapı.
Parametre Paylaşımı
Aynı ağırlıkların birden fazla konum veya yapıda tekrar kullanılmasını sağlayan verimli öğrenme ilkesi.
Perceptron
Girdi ağırlıkları ile doğrusal karar sınırı öğrenen en temel yapay nöron modeli.
Pooling Katmanı
Özellik haritalarını özetleyerek boyutu küçülten ve yerel değişimlere dayanıklılık sağlayan katman.
Post-Norm Transformer
Normalization katmanını dikkat veya FFN bloğundan sonra uygulayan klasik Transformer varyantı.
Posterior Collapse
VAE eğitiminde decoderın latent değişkeni göz ardı ederek temsil öğrenmenin zayıflamasına yol açtığı sorun.
Pozisyon Kodlama
Transformer modellerine sıradaki konum bilgisini ekleyerek sekans düzenini görünür kılan yöntem.
Pre-Norm Transformer
Normalization katmanını ana dikkat veya FFN bloğundan önce konumlandıran Transformer tasarım varyantı.
ReLU Aktivasyon
Negatif girdileri sıfırlayıp pozitif girdileri doğrusal bırakan en yaygın modern aktivasyon fonksiyonu.
Receptive Field
Bir nöronun veya özellik aktivasyonunun girdide hangi bölgeden bilgi topladığını ifade eden kavram.
Reparameterization Trick
Rastgele örnekleme içeren latent değişken modellerini diferansiyellenebilir hale getiren temel VAE tekniği.
Residual Blok
Kimlik bağlantıları ile bilgiyi doğrudan taşıyarak derin CNN eğitimini kolaylaştıran yapı taşı.
Rotary Positional Embedding
Konum bilgisini vektör uzayında döndürme işlemleriyle kodlayan modern pozisyon temsil yöntemi.
SELU Aktivasyonu
Kendi kendini normalize eden ağ davranışını desteklemek amacıyla tasarlanmış aktivasyon fonksiyonu.
Scheduled Sampling
Teacher forcing kullanımını kademeli azaltarak eğitim ve çıkarım koşullarını birbirine yaklaştıran yöntem.
Self-Attention
Bir sekans içindeki her öğenin diğer öğelerle ilişkisini doğrudan modelleyen dikkat mekanizması.
Seq2Seq Öğrenme
Bir giriş sekansını başka bir çıktı sekansına dönüştürmeye odaklanan genel modelleme yaklaşımı.
Seyrek Attention
Her öğenin tüm sekansa değil yalnızca seçili bölgelere dikkat etmesini sağlayarak maliyeti düşüren attention yaklaşımı.
Seyrek Autoencoder
Latent temsilde yalnızca az sayıda nöronun etkin olmasını teşvik ederek daha seçici özellikler öğrenen autoencoder türü.
Sharpness-Aware Minimization
Yalnızca düşük kayıp değil, aynı zamanda düz ve daha genellenebilir çözüm bölgeleri arayan optimizasyon yaklaşımı.
Sigmoid Aktivasyon
Girdiyi 0 ile 1 arasına sıkıştırarak olasılık benzeri çıktı üreten klasik aktivasyon fonksiyonu.
Softmax Aktivasyonu
Çok sınıflı çıktıların normalize edilmiş olasılık dağılımı olarak ifade edilmesini sağlayan çıktı aktivasyonu.
Squeeze-and-Excitation
Özellik kanallarını küresel bağlamla yeniden ağırlıklandıran CNN modülü.
Stochastic Depth
Eğitim sırasında bazı katmanları rastgele atlayarak çok derin ağlarda daha güçlü düzenlileştirme sağlayan yöntem.
Stochastic Weight Averaging
Eğitim sürecindeki farklı parametre noktalarını ortalayarak daha sağlam genelleme elde etmeyi amaçlayan yöntem.
Stride
Filtrenin giriş üzerinde kaç adımla ilerleyeceğini belirleyen ve çıktı çözünürlüğünü etkileyen CNN hiperparametresi.
Swish Aktivasyonu
Girdiyi sigmoid ile çarparak yumuşak ve doğrusal olmayan dönüşüm sağlayan modern aktivasyon fonksiyonu.
Tanh Aktivasyon
Girdileri -1 ile 1 arasına taşıyan sıfır merkezli aktivasyon fonksiyonu.
Teacher Forcing
Sekans üretim eğitiminde modelin kendi çıktısı yerine gerçek önceki çıktıyla beslenmesini sağlayan strateji.
Tekrarlayan Sinir Ağı
Geçmiş zaman adımlarından bilgi taşıyarak sıralı verileri modelleyen temel sinir ağı ailesi.
Transformer Feed-Forward Network
Her token üzerinde bağımsız çalışan ve temsil dönüşümünü güçlendiren Transformer alt bloğu.
Transposed Convolution
Özellik haritalarını daha yüksek uzamsal çözünürlüğe taşıyan öğrenilebilir yukarı örnekleme katmanı.
Varyasyonel Autoencoder
Latent uzayı olasılıksal biçimde modelleyerek hem temsil hem üretim yeteneği kazanan generatif autoencoder yapısı.
Vector-Quantized Autoencoder
Sürekli latent uzay yerine ayrık kod kitabı kullanan generatif autoencoder yapısı.
Veri Artırma
Eğitim verisini anlamlı dönüşümlerle çoğaltarak genelleme gücünü artırmayı amaçlayan düzenlileştirme yaklaşımı.