Glossary

Mean Attention Distance

متوسط مسافة الانتباه

مقياس يحسب المسافة المكانية المتوسطة التي ينتبه إليها كل رأس انتباه، لتحديد ما إذا كان يركز محلياً أم شاملاً.

A metric computing the average spatial distance each attention head attends to, determining whether it focuses locally or globally.

Also translated asالمدى المتوسط للانتباه

First appears in this corpus in: An Image Is Worth 16×16 Words: Transformers for Image Recognition at Scale (2020)

Appears in these papers