Gated Linear Unit

Doğrusal sinyali kapı mekanizmasıyla filtreleyerek daha seçici bilgi akışı sağlayan aktivasyon benzeri yapı.

Gated Linear Unit, klasik aktivasyon fonksiyonlarından farklı olarak bilginin ne kadarının geçirileceğini öğrenen kapı yapısı içerir. Bu seçici geçiş mantığı özellikle sekans modelleme, dil işleme ve modern Transformer varyantlarında etkili olabilir. Doğrusal sinyali tamamen dönüştürmek yerine kontrollü açıp kapama yapması, bazı görevlerde daha esnek ifade gücü sunar. Aktivasyon ile mimari kontrol arasındaki sınırı bulanıklaştıran önemli yapılardan biridir.