Hard Attention
الانتباه الصلب
صيغة من الانتباه تختار موقعاً واحداً بالعينة من توزيع الانتباه بدلاً من المزج الموزون. غير قابلة للتفاضل وتتطلب أساليب تدرج السياسة مثل REINFORCE للتدريب.
A form of attention that samples a single location from the attention distribution rather than blending all locations. Non-differentiable and requires policy gradient methods like REINFORCE for training.
Also translated asالانتباه العشوائي، الانتباه الحاد
First appears in this corpus in: Neural Turing Machines (2014)
Appears in these papers