Glossary

Hard Attention

الانتباه الصلب

صيغة من الانتباه تختار موقعاً واحداً بالعينة من توزيع الانتباه بدلاً من المزج الموزون. غير قابلة للتفاضل وتتطلب أساليب تدرج السياسة مثل REINFORCE للتدريب.

A form of attention that samples a single location from the attention distribution rather than blending all locations. Non-differentiable and requires policy gradient methods like REINFORCE for training.

Also translated asالانتباه العشوائي، الانتباه الحاد

First appears in this corpus in: Neural Turing Machines (2014)

Appears in these papers