Query-Key-Value Temsili

Attention mekanizmasında bilgi erişimini sorgu, anahtar ve değer ayrımı üzerinden yapılandıran temsil şeması.

Query-Key-Value ayrımı, dikkat mekanizmasının neden güçlü ve esnek olduğunu açıklayan temel temsil fikridir. Query, neyin arandığını; key, hangi bilginin eşleşebileceğini; value ise hangi içeriğin taşınacağını belirler. Bu ayrım, dikkat işlemini sıradan benzerlik hesabından daha genel bir bilgi erişim sistemine dönüştürür. Modern Transformer tasarımının kavramsal çekirdeğidir.